模加法网络不止学 Clock 算法：超参微调会催生全新的 Pizza 算法
burny_tech · x · 2026-10-27
NeurIPS 2023 论文（Zhong、Liu、Tegmark、Andreas）研究神经网络在算法任务上是否可靠地重新发现已知算法，结论是：不一定。
- 以模加法（modular addition）为原型任务，对超参数和初始化做微小改动，就能让固定训练集上训出的网络学出定性上完全不同的算法
- 部分网络实现经典的 Clock（钟面）算法，另一些实现此前未描述过、但可理解的 "Pizza"（披萨切片）算法，甚至多种算法的并行实现
- 说明即使简单的学习问题也容納惊人的解法多样性，需要新工具来刻画网络在"算法相空间"中的行为
所属事件:NeurIPS 论文揭示模加法网络可涌现 Pizza 全新算法(2 条相关)→
「研究」频道最新
- Lean 软件验证大会 SVIL 11 月落地斯坦福,Tegmark 与 Lean 之父亲自开讲 — wellecks · 2026-10-27
- LLM2Cert 发布:LLM+Lean 自动合成安全证书,105 个系统通过 77% — wellecks · 2026-10-27
- FSPO：函数空间时间自蒸馏让 7B/8B 模型推理训练更快更省 — IITK · 2026-10-27
- KAIST DiscoDemo：用 RL 生成多样化机器人演示，真机成功率 39%→78% — DAVIAN-Robotics · 2026-10-27
- AI Evaluator Forum 发布 AEF-1：第三方模型评测的独立性最低标准 — RishiBommasani · 2026-10-27
- 「模型育种」实验开场：组合特定神经元能让 Qwen 自认是饼干怪 — yacineMTB · 2026-10-27