Qwenputer:把完整 RISC-V CPU 编译进 Qwen3.5-4B 权重,还能跑另一个 LLM
udmrzn · x · 2026-11-03
开发者将一台完整的 32 位 RISC-V CPU 直接编译进 Qwen3.5-4B 的权重,命名为 Qwenputer,并进一步在其内部跑出另一个 LLM(Karpathy 的 stories260K),全程在模型自身的 forward pass 中完成,零外部运行时、零工具调用,完全开源(代码 MIT、权重 Apache-2.0)。
关键设计:
- CPU 硬编码:11 层编译出的 RV32IM(含 Zba 与大数单元)塞在 Qwen 前部,权重全部由编译器生成,无需训练;
- 模型即 RAM:利用 Gated DeltaNet 状态作为精确可读写的内存,寄存器、程序计数器、栈都在其中;
- 从 CPU 到 NPU:QwenPU 版本进一步编译了向量单元(矩阵乘、softmax、注意力),把 stories260K 当 C 程序在模型内运行;
- 效果:DeepMind 大数乘法基准从 55% 提升到 97.5%+,部分超过带 Python 工具的基座模型;全链路 bit-exact,23 万+步零误差。
仓库提供快速上手命令(uv + hf 权重下载),可直接向模型提问让它用内置 CPU 计算。
「研究」频道最新
- 研究者观点:高质量的机制可解释性研究本质上是「双用途」技术 — cephaloform · 2026-11-03
- 因果机器学习辅助急性心衰用药决策,首次进入人体前瞻试验 — ShalitUri · 2026-11-03
- ChefNMR2 全面开源:论文、代码、项目页齐发,Agent 版已上线 Kosmos — ZhongingAlong · 2026-11-03
- ChefNMR2 基准测试:2000+分子上 Top-1 命中 82.3%,最佳 LLM 仅 52% — ZhongingAlong · 2026-11-03
- 普林斯顿 ChefNMR2:从 NMR 谱图自动解析未知小分子结构,快 frontier LLM 两三个数量级 — ZhongingAlong · 2026-11-03
- Agent 直接改 Qwen3.5-0.8B 权重,MATH-500 从 7.9% 提到 48.1% — giffmana · 2026-11-03