Modèle expérimental d'auteur indépendant : en insérant, avant Qwen3.5-4B, 11 couches d'un CPU RISC-V 32 bits (RV32IM) dont les poids sont calculés directement par le compilateur (sans entraînement), et en utilisant l'état de Gated DeltaNet comme mémoire, il est possible d'exécuter des programmes C et MicroPython pendant le processus de propagation avant du modèle ; Qwen écrit les appels à calc selon le format habituel d'appel d'outils, et les résultats sont réécrits bit par bit par le modèle lui-même, sans faire appel à un interpréteur externe.
Score de montée 80 · J'aime 80 · Téléchargements 321
Raisons
- Tests auto-réalisés par l'auteur (décodage glouton, groupes de 40 questions) : l'arithmétique entière synthétique passe de 75.0 pour le modèle de base à 97.5, et DeepMind mul_big passe de 55.0 à 97.5, obtenant des résultats comparables à ceux du modèle de base appelant un véritable outil Python.
- L'auteur affirme qu'il n'y a aucune différence entre la relecture d'environ 23 000 positions de sortie du CPU et le simulateur de référence, et que le CPU passe les tests officiels riscv-tests ; les poids originaux de Qwen restent inchangés, et la divergence KL du comportement textuel par rapport au modèle de base est de 6e-4.
- Approche nouvelle : intégrer le calcul déterministe dans les poids plutôt que d'utiliser un bac à sable externe ; environ 3,200 tokens de trajectoire par seconde sur L4. Licence Apache-2.0, non inclus dans les numéros précédents.
Utilisation
- git clone divagr18/qwenputer, accédez à experimental/riscv et exécutez uv sync --extra hf ; hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv.
- uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf --ask "Use calc : que vaut 123456789 * 987654321 ?" ; le pilote RvChat se charge d'installer le firmware dans l'état et de masquer les tokens de trajectoire du CPU aux couches de Qwen.
Risques
- Nature expérimentale : seuls des calculs arithmétiques sont actuellement présentés, l'évaluation ne comporte que 40 questions par groupe, toutes auto-testées par l'auteur ; le modèle nécessite le pilote et le firmware de l'auteur pour fonctionner, ce n'est pas un modèle standard utilisable en conversation simple.
- Poids bf16 de 18.8 Go (majoritairement des zéros), vocabulaire augmenté de 23 000 tokens de trajectoire ; ne traite que du texte.
- Une version avec système de fichiers est publiée séparément ; les informations de citation du code GitHub indiquent la licence MIT, tandis que la fiche modèle indique Apache-2.0.