llama.cpp が v1.0.0 をリリース、インターフェース変更はメジャーバージョン番号で明示

llama.cpp チームは Hugging Face のブログで、llama.cpp と ggml ライブラリが v1.0.0 に移行したことを発表しました。プロジェクト開始から3年半が経過し、下流の依存関係が増加しているため、今後 ggml-org 傘下のプロジェクトはすべてセマンティックバージョニングに準拠してリリースされます。API または ABI の互換性がない変更にはメジャーバージョン番号の更新が行われます。チームによると、llama.cpp は現在 150 種類のモデルアーキテクチャバリエーションと主要な投機的デコード手法をサポートしており、HF Buckets、HF Jobs、および NVIDIA、AMD、Qualcomm、Arm、IBM、Intel が提供するハードウェアを活用して CI テストを拡充しています。同時に、macOS および Windows 向けの Llama デスクトップアプリもリリースされました。

原題:llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem

llama.cpp チームは Hugging Face のブログで、llama.cpp と ggml ライブラリが v1.0.0 に移行したことを発表しました。プロジェクト開始から3年半が経過し、下流の依存関係が増加しているため、今後 ggml-org 傘下のプロジェクトはすべてセマンティックバージョニングに準拠してリリースされます。API または ABI の互換性がない変更にはメジャーバージョン番号の更新が行われます。チームによると、llama.cpp は現在 150 種類のモデルアーキテクチャバリエーションと主要な投機的デコード手法をサポートしており、HF Buckets、HF Jobs、および NVIDIA、AMD、Qualcomm、Arm、IBM、Intel が提供するハードウェアを活用して CI テストを拡充しています。同時に、macOS および Windows 向けの Llama デスクトップアプリもリリースされました。

なぜ重要か llama.cpp はローカルで大規模モデルを実行する際に最も一般的に使用される基盤ライブラリの1つであり、多くのアプリケーションがこれに依存しています。バージョンルールが明確になったことで、下流のアップグレード時に予期せぬ破綻が生じるリスクが軽減されます。

信頼性:高信頼 · 出典 Hugging Face(公式含む) · イベント日時 11-13 22:05(北京時間)

理由

  • ggml-org チームが Hugging Face の公式ブログで発表

使い方

  • GitHub の ggml-org/llama.cpp から新バージョンをダウンロードしてください。パッケージングおよびリリースプロセスへの統合方法はプロジェクトのディスカッションエリアを参照してください。

リスク

  • 下流プロジェクトでは、新しいバージョンルールに基づいて依存関係の範囲を確認する必要があります。

開く

Hugging Face

最新の AI ニュースを見る