TensorFold — это движок вывода, написанный на Zig, который напрямую считывает веса модели, выполняет токенизацию и вызывает ядра Metal или CUDA. На Mac он устанавливается через Homebrew, на Linux — через релизные пакеты, предоставляя локальный сервисный интерфейс. Таблица моделей в README указывает для каждой машины, на каком оборудовании была проверена каждая модель; например, Qwen3.5-2B проверен на M5 Max и GB10, а Qwen3.8-27B — на M5 Max и M3 Ultra. Также есть экспериментальная функция Living Weights: она позволяет записывать новые факты непосредственно в веса модели во время работы, с возможностью отката одним нажатием кнопки.
Почему это важно Один бинарный файл напрямую считывает веса и запускает ядра Metal или CUDA, поэтому при развертывании не требуется настраивать окружения Python и MLX.
Количество звезд 1942 (+54 / 24 ч)
Причины
- За 24 часов добавилось 54 звезд (отражает только уровень внимания)
- В README четко разделено оборудование, на котором модель была проверена, и то, для которого есть только код без записей о запуске; неподтвержденное оборудование не указывается как поддерживаемое
Использование
- Mac: выполните brew install ashhart/tensorfold/tensorfold, затем используйте tensorfold pull для загрузки моделей фиксированных версий из README и tensorfold serve для запуска сервиса
Риски
- Для Linux требуются драйверы NVIDIA версии R580 или выше (CUDA 13); при использовании более старых драйверов запуск будет отклонен
- Living Weights является экспериментальной функцией; автор отмечает, что связанные факты могут взаимно мешать друг другу, и после обучения на десятках фактов качество извлечения информации снижается