llama.cpp 发布 v1.0.0,接口改动改按主版本号标明

llama.cpp 团队在 Hugging Face 博客宣布 llama.cpp 和 ggml 库进入 v1.0.0。项目创立三年半,下游依赖越来越多,今后 ggml-org 旗下项目统一按语义化版本发布,API 或 ABI 不兼容的改动都会升主版本号。团队称 llama.cpp 目前支持 150 多种模型架构变体和主流的投机解码方法,并借助 HF Buckets、HF Jobs 以及英伟达、AMD、高通、Arm、IBM、英特尔提供的硬件扩充 CI 测试;同时推出 macOS 和 Windows 版 Llama 桌面应用。

原题:llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem

llama.cpp 团队在 Hugging Face 博客宣布 llama.cpp 和 ggml 库进入 v1.0.0。项目创立三年半,下游依赖越来越多,今后 ggml-org 旗下项目统一按语义化版本发布,API 或 ABI 不兼容的改动都会升主版本号。团队称 llama.cpp 目前支持 150 多种模型架构变体和主流的投机解码方法,并借助 HF Buckets、HF Jobs 以及英伟达、AMD、高通、Arm、IBM、英特尔提供的硬件扩充 CI 测试;同时推出 macOS 和 Windows 版 Llama 桌面应用。

为什么重要 llama.cpp 是本地跑大模型最常用的底层库之一,大量应用依赖它;版本规则明确后,下游升级不再容易被悄悄改坏。

可信度:高可信 · 来源 Hugging Face(含官方) · 事件时间 11-13 22:05(北京时间)

理由

  • ggml-org 团队在 Hugging Face 官方博客发布

用法

  • 在 GitHub ggml-org/llama.cpp 下载新版;打包和发布流程的接入方式见项目讨论区

风险

  • 下游项目要按新的版本规则检查依赖范围

打开

Hugging Face

浏览最新 AI 动态