独立研究者による実験モデル：Qwen3.5-4B の前に、コンパイラが重みを直接算出する（学習を経ない）11 層の 32 ビット RISC-V CPU（RV32IM）を挿入し、Gated DeltaNet の状態をメモリとして使用することで、モデルのフォワードパス中に C および MicroPython プログラムを実行できる。Qwen は通常のツール呼び出し形式で calc 呼び出しを作成し、結果は外部インタープリターを呼び出さず、モデル自身がビット単位で書き戻す。
上昇スコア 80 · いいね数 80 · ダウンロード数 321
理由
- 著者による自己テスト（貪欲デコード、各グループ 40 問）：合成整数演算がベースモデルの 75.0 から 97.5 に向上し、DeepMind の mul_big が 55.0 から 97.5 に向上して、ベースモデルが実際の Python ツールを呼び出した場合の成績と同等になった。
- 著者によると、約 23 万個の CPU 出力位置のリプレイで参照シミュレーターとの差異はゼロであり、CPU は公式の riscv-tests を通過している。Qwen の元の重みは変更されておらず、テキスト挙動におけるベースモデルとの KL ダイバージェンスは 6e-4 である。
- 方向性が新規：決定論的な計算を外部サンドボックスではなく重みに組み込む手法であり、L4 では毎秒約 3,200 個のトラジェクトリートークンを処理する。ライセンスは Apache-2.0 で、過去の号では収録されていなかった。
使い方
- git clone divagr18/qwenputer を実行し、experimental/riscv ディレクトリに移動して uv sync --extra hf を実行する。次に hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv でモデルをダウンロードする。
- uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf --ask "Use calc: what is 123456789 * 987654321?" を実行する。RvChat ドライバーがファームウェアを状態にロードし、CPU トラジェクトリートークンを Qwen の層の外側にマスキングする役割を担う。
リスク
- 研究段階：現在公開されているのは演算機能のみであり、評価は各グループ 40 問で著者による自己テストに留まっている。著者のドライバーとファームウェアが必要であり、通常の読み込みだけで対話できるモデルではない。
- bf16 重みサイズは 18.8 GB（大部分はゼロ埋め）であり、語彙表にはトラジェクトリートークンが 23 万個追加されている。テキストのみを処理する。
- ファイルシステム版は別途公開されている。GitHub のコードの引用情報では MIT と記載されているが、モデルカードでは Apache-2.0 と記載されている。