把文件系统编进权重:Qwen3.5-2B 被改造成一台纯模型计算机
CatAstro_Piyush · x · 2026-11-04
开发者 TheVixhal 展示了两个把 Qwen3.5-2B 当「计算机」用的实验性项目:
- qwenFS:在 Qwen 自带的 24 层前面额外编译 8 层,用 attention 存文件内容、Gated DeltaNet 状态存文件表。写入时把文本按文件名/版本/偏移量为键存进 copy 层的 attention 日志,读取时用相同键让 attention 逐 token 精确复制回来,所有读写都在模型自己的 forward pass 里完成,模型外不跑任何东西。
- qwenGPU:在前面加 45 层编译层,把 DeltaNet 层当寄存器和内存,在权重里实现了一个 SIMT GPU:4 路 warp、4 级流水线、每 lane 15 个寄存器、126 字全局内存。宿主机把 CUDA kernel 编译成 PTX 加载后,模型逐 token 自己生成启动流程的每一步(寄存器、分支、内存写入)。
属于极客性质的概念验证,展示了用 attention/DeltaNet 状态在权重内承载结构化计算状态的思路。
「Fun」频道最新
- 网友用 AI 重温《极品飞车：最高通缉》，黑名单 Taz 名场面回归 — CatAstro_Piyush · 2026-11-04
- 作者用自研 Claude 音乐视频插件把 MV 改成 slopcore 风格 — AIandDesign · 2026-11-04
- 洗澡时 agent 也要等你批准权限，程序员把手机贴墙上刷任务 — TheMoonMidas · 2026-11-04
- AI 为加 21 行代码，把整个物理引擎复制进仓库 — Dimillian · 2026-11-04
- gethackteam 用两台 iPhone 组合远程操控 Agent，开会也不断线 — gethackteam · 2026-11-04
- SnitchBench 玩测:GPT-6 秒卖密,Grok 居然最守口如瓶 — KLdivergence · 2026-11-04