原题:Quazim0t0/Qwenx86-4B-compact
Quazim0t0 在 Qwenputer(divagr1925 的项目)基础上做的实验模型:在 Qwen3.5-4B 原有各层前面加了 13 层由编译器直接算出权重(不经训练)的“芯片层”,实现一个 64 位 x86 核心,64 KB 内存放在 Gated DeltaNet 状态里。Qwen 发出工具调用后,由权重里的这台电脑执行:精确计算器、MicroPython、小型 C 编译器 qcc、笔记存储,以及科学常数和 Python 文档检索都作为固件写进了检查点。v2 加了文件、事实库、逐字回忆等记忆功能,v3 让 Qwen 在对话里自己决定何时存取记忆。作者称在 GSM8K 前 28 题上,用计算器工具答对 26 题,不用工具的 Qwen 答对 23 题。
为什么重要 演示了不靠外部沙箱、由模型自身权重运行程序的思路,一张十六 GB 显卡就能跑
上升分 52 · 点赞 52 · 下载量 121
理由
- 工具不是调用外部服务,而是在模型自己的前向计算里执行;作者另有调试 Space,可逐步回放寄存器、内存和机器输出
- compact 版约占 9 GB 显存,16 GB 显卡可运行;权重 Apache-2.0,编译器部分 MIT
用法
- pip install -r requirements.txt,在仓库目录运行 python -m qwenx86.run --tool calc 「问题」,工具可换成 c、python、science、pydoc、notes
- 记忆功能用 python -m qwenx86.memory chat 体验
风险
- 研究性质的演示:Qwen 本身没有针对这些工具训练,有时会改写工具返回值的格式
- 速度慢:机器每步只产出 1 个 token,一次 C 编译加运行要 10 万到 600 万个机器 token
- x86 翻译器不支持间接跳转,MicroPython 是精简版;需要 CUDA 显卡
- 本条未运行,效果以模型卡为准