同一 AI 训三次行为相同电路不同,ACE 解释 grokking
CatAstro_Piyush · x · 2026-11-19
研究者推出可解释性新方法 ACE(将亮相 NeurIPS 2026),回应一个根本问题:同一模型训练三次,行为相同但内部电路不同——电路究竟是算法本身,还是算法的一种实现?
- ACE 的做法是提取不同「接线」之间的共享结构,从而解释 AI 的 grokking(突现泛化)现象。
- 方法还可用这些共享表征来引导(steer)最高 32B 规模的 LLM 行为。
- 作者以线程形式展开技术细节,属于机制可解释性方向的代表性新工作。
「研究」频道最新
- 桑迪亚实验室:电子指纹让 AI 仅用几十个样本预测高熵合金性能 — CurieuxExplorer · 2026-11-19
- FoodTruck Bench 榜单上线 Papers with Code:让 LLM 真金白银经营餐车 30 天 — NielsRogge · 2026-11-19
- MIT研究:可读取并操控LLM内部的物理直觉,Gemma隐状态揭示因果方向 — ProfBuehlerMIT · 2026-11-19
- harness-hub 开源 RL 训练的 harness 适配器:同一模型为不同 agent 框架单独调优 — yb2698 · 2026-11-19
- Freenet 发布新视频:用传统机器学习做网络路由 — Sanity · 2026-11-19
- Empire AI 在纽约设 120+ 个早期职业研究岗位,Cornell 博士后申请截止 12/15 — dianarycai · 2026-11-19