Titre original : llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem
L'équipe de llama.cpp a annoncé sur le blog de Hugging Face que les bibliothèques llama.cpp et ggml passent à la v1.0.0. Trois ans et demi après la création du projet, les dépendances en aval sont de plus en plus nombreuses. Désormais, les projets sous l'égide de ggml-org suivront un versionnage sémantique unifié, et toute modification incompatible au niveau de l'API ou de l'ABI entraînera une augmentation du numéro de version majeure. L'équipe indique que llama.cpp prend actuellement en charge 150 variantes d'architectures de modèles et les méthodes de décodage spéculatif courantes, et qu'elle étend les tests CI grâce à HF Buckets, HF Jobs ainsi qu'au matériel fourni par NVIDIA, AMD, Qualcomm, Arm, IBM et Intel. Elle lance également les applications de bureau Llama pour macOS et Windows.
Pourquoi c'est important llama.cpp est l'une des bibliothèques sous-jacentes les plus utilisées pour exécuter des grands modèles en local, et de nombreuses applications en dépendent ; avec des règles de version claires, les mises à jour en aval ne risquent plus d'être cassées silencieusement.
Fiabilité : Haute fiabilité · Source Hugging Face (y compris officielle) · Date de l'événement 11-13 22:05 (heure de Pékin)
Raisons
- L'équipe de ggml-org a publié l'annonce sur le blog officiel de Hugging Face
Utilisation
- Téléchargez la nouvelle version depuis GitHub ggml-org/llama.cpp ; les modalités d'intégration des processus de packaging et de publication sont détaillées dans la section de discussion du projet
Risques
- Les projets en aval doivent vérifier leurs plages de dépendances conformément aux nouvelles règles de version