独立研究者による実験モデル：Qwen3.5-4B の前に、コンパイラが重みを直接算出する（学習を経ない）11層の 32 ビット RISC-V CPU（RV32IM）を挿入し、Gated DeltaNet の状態をメモリとして使用することで、モデルのフォワードパス中に C および MicroPython プログラムを実行できる。Qwen は通常のツール呼び出し形式で calc 呼び出しを作成し、結果は外部インタープリターを呼び出さず、モデル自身がビット単位で書き戻す。
上昇スコア 80 · いいね 80 · ダウンロード数 321
理由
- 著者による自己テスト（貪欲デコード、各グループ 40 問）：合成整数演算がベースモデルの 75.0 から 97.5 に向上し、DeepMind mul_big が 55.0 から 97.5 に向上して、ベースモデルが実際の Python ツールを呼び出した成績と同等になった。
- 著者は、約 23 万個の CPU 出力位置のリプレイで参照シミュレーターとの差異がゼロであり、CPU が公式の riscv-tests を通過したと述べている。Qwen の元の重みは変更されておらず、テキスト挙動におけるベースモデルとの KL ダイバージェンスは 6e-4 である。
- 方向性が新規：決定論的な計算を外部サンドボックスではなく重みの中に組み込む。L4 上では約毎秒 3,200 個のトラジェクトリートークンを処理する。ライセンスは Apache-2.0 で、過去の号では未収録だった。
使い方
- git clone divagr18/qwenputer を実行し、experimental/riscv ディレクトリに入り、uv sync --extra hf を実行する。次に hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv を実行する。
- uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf --ask "Use calc: what is 123456789 * 987654321?" を実行する。RvChat ドライバーがファームウェアを状態にロードし、CPU トラジェクトリートークンを Qwen の層の外側に遮断する役割を担う。
リスク
- 研究段階：現在公開されているのは演算のみであり、評価は各グループ 40 問のみで、すべて著者による自己テストである。著者のドライバーとファームウェアに依存して動作するため、通常のロードだけで対話できるモデルではない。
- bf16 重みは 18.8 GB（大部分はゼロ埋め）であり、語彙に 23 万個のトラジェクトリートークンが追加されている。テキストのみを処理する。
- ファイルシステム版は別途公開されている。GitHub のコードの引用情報は MIT と記載されているが、モデルカードには Apache-2.0 と記載されている。