divagr1925/Qwen3.5-4B-Qwenputer

Экспериментальная модель независимого автора: перед Qwen3.5-4B вставляется 11 слой, веса которого вычисляются непосредственно компилятором (без обучения), представляющий собой 32-битный RISC-V CPU (RV32IM); состояние Gated DeltaNet используется в качестве памяти, что позволяет выполнять программы на C и MicroPython во время прямого прохода модели; Qwen записывает вызовы calc в обычном формате вызова инструментов, а результаты модель записывает обратно побитово самостоятельно, не используя внешний интерпретатор.

Экспериментальная модель независимого автора: перед Qwen3.5-4B вставлены 11 слоев, веса которых вычисляются непосредственно компилятором (без обучения), представляющих собой 32-битный RISC-V CPU (RV32IM), использующий состояние Gated DeltaNet в качестве памяти и способный выполнять программы на C и MicroPython во время прямого прохода модели; Qwen записывает вызовы calc в обычном формате вызова инструментов, а результаты записываются моделью побитово обратно без вызова внешнего интерпретатора.

Рост рейтинга на 80 · Лайков 80 · Загрузок 321

Причины

  • Самостоятельное тестирование автора (жадное декодирование, по 40 задач в группе): точность синтетической целочисленной арифметики выросла с 75.0 до 97.5, а на задаче DeepMind mul_big — с 55.0 до 97.5, что сопоставимо с результатами базовой модели при использовании реальных инструментов Python.
  • Автор утверждает, что при воспроизведении примерно 23 тысяч позиций вывода ЦП расхождения с эталонным симулятором отсутствуют, а ЦП проходит официальные тесты riscv-tests; исходные веса Qwen не изменяются, а расхождение KL текстового поведения с базовой моделью составляет 6e-4.
  • Новое направление: детерминированные вычисления встраиваются в веса вместо использования внешнего песочника; на L4 скорость составляет около 3,200 токенов траектории в секунду. Лицензия Apache-2.0, ранее в выпусках не публиковалось.

Использование

  • Выполните git clone divagr18/qwenputer, перейдите в каталог experimental/riscv и запустите uv sync --extra hf; затем выполните hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv.
  • Запустите uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf --ask "Use calc: what is 123456789 * 987654321?"; драйвер RvChat отвечает за загрузку прошивки в состояние и изоляцию токенов траектории ЦП от слоев Qwen.

Риски

  • Исследовательский характер: в настоящее время продемонстрирована только арифметика, в каждой группе тестов всего 40 задач, все результаты получены в ходе самостоятельного тестирования автора; для работы требуются драйвер и прошивка от автора, это не обычная модель, готовая к диалогу сразу после загрузки.
  • Веса bf16 занимают 18.8 ГБ (в основном заполнены нулями), словарь расширен на 23 тысяч токенов траектории; поддерживается только обработка текста.
  • Существует отдельная версия с файловой системой; в коде на GitHub указана лицензия MIT, а в карточке модели — Apache-2.0.

Открыть

Hugging Face Trending

Открыть последние новости ИИ