两篇 LLM 机械可解释性研究登陆 EMNLP：Agent 做电路解释与代码安全转向
ZiyuYao · x · 2026-10-26
研究者 Yao Ziyu 预告团队在布达佩斯 EMNLP 的两张海报，均关于 LLM 的机械可解释性(MechInterp)：
- 《Can Language Model Agents be Helpful Circuit Explainers in Mechanistic Interpretability?》——用 LLM agent 做自动化可解释性研究，探索其能否胜任电路(circuit)解释工作。
- 《Interpreting and Steering for Safe and Correct Code Generation》——研究代码漏洞在模型内部表征中如何干扰代码正确性，并提出 DuoSteer 转向方法以生成更安全、更正确的代码。
两张海报分别在 10 月 27 日和 25 日的 Hall H 展出。
「研究」频道最新
- LessWrong 长文论证：计算逻辑反事实难题让 FDT 难以成立 — jessi_cata · 2026-10-26
- 学者纠错：别再误用苦涩教训论证暴力模拟将解决生物学 — anshulkundaje · 2026-10-26
- Chain Theory：用 AI 从量子信息重建基础物理,找到无参数精细结构常数候选式 — skdh · 2026-10-26
- 港浙复三校联手 Lightspeed 推 HiSTEVE：VLA 智能体键鼠操控玩转 Minecraft — tencent · 2026-10-26
- 索尼团队用 Flow Matching 做四轨立体声音乐分离，系统评测生成式 MSS — Shuyang Cui · 2026-10-26
- 浙大联手腾讯推 Easy-3Dfy：单图 3D 场景重建，物体生成与布局解耦 — Ziang Zhang · 2026-10-26