divagr1925/Qwen3.5-4B-Qwenputer

Экспериментальная модель независимого автора: перед Qwen3.5-4B вставляется 11 слой, веса которого вычисляются непосредственно компилятором (без обучения), представляющий собой 32-битный RISC-V CPU (RV32IM), использующий состояние Gated DeltaNet в качестве памяти и способный выполнять программы на C и MicroPython во время прямого прохода модели; Qwen записывает вызовы calc в обычном формате вызова инструментов, а результаты модель записывает обратно побитово самостоятельно, не обращаясь к внешнему интерпретатору.

Экспериментальная модель независимого автора: перед Qwen3.5-4B вставляется 11 слой процессора с архитектурой RISC-V на 32 бит (RV32IM), веса которого вычисляются компилятором напрямую (без обучения); состояние Gated DeltaNet используется в качестве памяти, что позволяет выполнять программы на C и MicroPython во время прямого прохода модели; Qwen записывает вызовы функции calc в обычном формате вызова инструментов, а результаты модель записывает обратно побитово сама, без использования внешнего интерпретатора.

Рост рейтинга 80 · Лайки 80 · Загрузки 321

Причины

  • Самостоятельное тестирование автора (жадное декодирование, по 40 задач в группе): точность на синтетической целочисленной арифметике выросла с 75.0 до 97.5, на задаче DeepMind mul_big — с 55.0 до 97.5, что сопоставимо с результатами базовой модели при использовании реального инструмента Python.
  • Автор утверждает, что воспроизведение примерно 23 тысяч позиций вывода ЦП совпадает с эталонным симулятором без расхождений; ЦП проходит официальные тесты riscv-tests; исходные веса Qwen не изменяются, а KL-дивергенция текстового поведения по сравнению с базовой моделью составляет 6e-4.
  • Новое направление: детерминированные вычисления встраиваются непосредственно в веса вместо использования внешнего песочника; на L4 скорость составляет примерно 3,200 токенов траектории в секунду. Лицензия Apache-2.0, ранее эта модель не включалась в выпуски.

Использование

  • Выполните git clone divagr18/qwenputer, перейдите в каталог experimental/riscv и запустите uv sync --extra hf; затем выполните hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv.
  • Запустите uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf --ask "Use calc: what is 123456789 * 987654321?"; драйвер RvChat отвечает за загрузку прошивки в состояние и изоляцию токенов траектории ЦП от слоев Qwen.

Риски

  • Исследовательский характер: на данный момент продемонстрирована только арифметика, тестирование проводилось по 40 задачам в группе, все результаты получены автором самостоятельно; для работы требуются драйвер и прошивка автора, это не обычная модель, готовая к диалогу сразу после загрузки.
  • Веса bf16 занимают 18.8 ГБ (в основном заполнены нулями), словарь расширен на 23 тысяч токенов траектории; поддерживается только обработка текста.
  • Существует отдельная версия с файловой системой; в коде на GitHub указана лицензия MIT, а в карточке модели — Apache-2.0.

Открыть

Hugging Face Trending

Открыть последние новости ИИ