Оригинальное название: llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem
Команда llama.cpp объявила в блоге Hugging Face, что библиотеки llama.cpp и ggml перешли на версию 1.0.0. С момента основания проекта прошло три с половиной года, количество зависимостей от него растёт. В дальнейшем все проекты под эгидой ggml-org будут публиковаться согласно семантическому версионированию: любые изменения, нарушающие совместимость API или ABI, будут сопровождаться увеличением номера основной версии. Команда сообщает, что llama.cpp сейчас поддерживает более 150 вариантов архитектур моделей и основные методы спекулятивного декодирования; тестирование в CI расширяется за счёт использования HF Buckets, HF Jobs, а также оборудования от NVIDIA, AMD, Qualcomm, Arm, IBM и Intel. Одновременно выпущены настольные приложения Llama для macOS и Windows.
Почему это важно llama.cpp — одна из самых популярных базовых библиотек для локального запуска больших языковых моделей, от неё зависит множество приложений; после чёткого определения правил версионирования обновления зависимостей перестанут незаметно ломать работу.
Достоверность: высокая · Источник Hugging Face (включая официальные данные) · Время события 11-13 22:05 (пекинское время)
Обоснование
- Команда ggml-org опубликовала информацию в официальном блоге Hugging Face
Использование
- Загрузите новую версию с GitHub ggml-org/llama.cpp; способы интеграции процессов сборки и публикации описаны в разделе обсуждений проекта
Риски
- Зависимым проектам необходимо проверить диапазоны версий согласно новым правилам версионирования