Mô hình thử nghiệm của tác giả độc lập: Chèn vào trước Qwen3.5-4B một CPU RISC-V 32 bit (RV32IM) gồm 11 lớp có trọng số được tính toán trực tiếp bởi trình biên dịch (không qua quá trình huấn luyện), sử dụng trạng thái của Gated DeltaNet làm bộ nhớ, có khả năng chạy các chương trình C và MicroPython trong quá trình forward của mô hình; Qwen viết các lệnh gọi calc theo định dạng gọi công cụ thông thường, kết quả được mô hình tự ghi lại từng bit, không gọi đến trình thông dịch bên ngoài.
Điểm tăng 80 · Lượt thích 80 · Lượt tải 321
Lý do
- Tác giả tự kiểm tra (giải mã tham lam, mỗi nhóm 40 câu hỏi): Phép tính số nguyên tổng hợp tăng từ 75.0 ở mô hình gốc lên 97.5, DeepMind mul_big tăng từ 55.0 lên 97.5, tương đương với kết quả khi mô hình gốc gọi công cụ Python thật.
- Tác giả cho biết việc phát lại khoảng 23 nghìn vị trí đầu ra của CPU không có sự khác biệt nào so với trình mô phỏng tham chiếu, CPU vượt qua các bài kiểm tra chính thức riscv-tests; trọng số gốc của Qwen không thay đổi, độ phân kỳ KL giữa hành vi văn bản và mô hình gốc là 6e-4.
- Hướng tiếp cận mới: Nhúng các tính toán xác định vào trọng số thay vì sử dụng sandbox bên ngoài; trên L4 đạt khoảng 3,200 token dấu vết mỗi giây. Giấy phép Apache-2.0, chưa được ghi nhận trong các số trước.
Cách sử dụng
- git clone divagr18/qwenputer, vào thư mục experimental/riscv và chạy uv sync --extra hf; hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv.
- uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf --ask "Use calc: what is 123456789 * 987654321?"; Trình điều khiển RvChat chịu trách nhiệm nạp firmware vào trạng thái và ngăn các token dấu vết CPU đi vào các lớp của Qwen.
Rủi ro
- Tính chất nghiên cứu: Hiện tại chỉ mới trình diễn các phép tính số học, bài đánh giá chỉ gồm 40 câu hỏi mỗi nhóm, đều do tác giả tự kiểm tra; cần có trình điều khiển và firmware của tác giả mới sử dụng được, không phải là mô hình có thể đối thoại ngay khi tải thông thường.
- Trọng số bf16 chiếm 18.8 GB (phần lớn là padding bằng không), từ điển từ vựng có thêm 23 nghìn token dấu vết; chỉ xử lý văn bản.
- Một phiên bản hệ thống tệp riêng biệt được phát hành riêng; thông tin trích dẫn mã nguồn trên GitHub ghi là MIT, trong khi thẻ mô hình ghi là Apache-2.0.