TensorFold est un moteur d'inférence écrit en Zig, qui lit directement les poids des modèles, effectue la tokenisation et appelle les noyaux Metal ou CUDA. Il s'installe via Homebrew sur Mac et via des paquets de publication sur Linux, offrant une interface de service locale. Le tableau des modèles du README indique pour chaque machine le matériel sur lequel chaque modèle a été vérifié, par exemple Qwen3.5-2B sur M5 Max et GB10, ainsi que Qwen3.8-27B sur M5 Max et M3 Ultra. Il existe également une fonctionnalité expérimentale appelée Living Weights : elle permet d'écrire de nouveaux faits directement dans les poids du modèle pendant l'exécution, avec possibilité de retour en arrière en un clic.
Pourquoi c'est important Un seul binaire lit directement les poids et exécute les noyaux Metal ou CUDA, ce qui évite de configurer des environnements Python et MLX lors du déploiement.
Nombre d'étoiles 1942 (+54 / 24h)
Raisons
- 54 nouvelles étoiles en 24 heures (indique uniquement le niveau d'attention)
- Le README distingue le matériel vérifié de celui pour lequel il n'y a que du code sans historique d'exécution ; le matériel non testé n'est pas présenté comme pris en charge
Utilisation
- Mac : brew install ashhart/tensorfold/tensorfold, puis utilisez tensorfold pull pour télécharger les modèles aux versions fixées dans le README, et tensorfold serve pour démarrer le service
Risques
- Linux nécessite un pilote NVIDIA R580 ou supérieur (CUDA 13) ; les anciens pilotes sont rejetés au démarrage
- Living Weights est une fonctionnalité expérimentale ; l'auteur précise que les faits pertinents peuvent interférer entre eux et que la récupération des informations diminue après l'apprentissage de quelques dizaines d'éléments