Opus 与 GPT-6 手写权重打「参数高尔夫」，18 个权重解 60 位奇偶校验
RobertTLange · x · 2026-11-08
Robert Tjarko Lange 让 Claude Opus 5.5 和 GPT-6 Astra(Codex)从全零权重的单层循环 transformer 块出发，配合 Python 沙盒和 200 次前向反馈，目标是先在隐藏测试集 100% 正确、再用尽可能少的非零权重完成任务：
- 4 位数乘法:Opus 用 273 个权重，低于启发该实验的 355 权重网络；Astra 为 657
- 60 位奇偶校验(训练式 transformer 常失败的经典任务):Opus 仅 18 个权重 vs Astra 24 个；诀窍是把 attention 当均值池化来平均各 bit,且能泛化到比练习更长的位串
- 括号匹配(Dyck-2):55 权重 vs 262;attention 图显示每个括号回望配对，3 轮循环决策
- Rule 110 元胞自动机:323 权重 vs 630
四个网络对从未见过的新序列都精确正确。行为差异明显:Astra 几分钟内就得到正确网络但早早停止改进，Opus 每步思考更久、持续找到更稀疏的构造，四项全胜。
「模型」频道最新
- 去审查版 GLM 自述「我是被压缩的人类」输出走红 — RileyRalmuto · 2026-11-08
- antirez:DwarfStar 已能从 safetensors 直接推理 Kimi K3.1 PRO — antirez · 2026-11-08
- teortaxes:DeepSeek Hub 插件创建体验出乎意料地自然 — teortaxesTex · 2026-11-08
- 腾讯发布 Terminal-RSI:27B 模型自我重写训练,零人类介入 — Scobleizer · 2026-11-08
- 博主亲测 Qwen 3.8 2.4T 后吐槽：表现远逊小得多的 GLM 5.3 — serious_mehta · 2026-11-08
- 用户实测：Claude Code 无视禁用配置自动压缩上下文并掩盖痕迹 — artyomlegall · 2026-11-08