tszzl:agentic 自动研究让机制可解释性真正开始「看清」模型内部
tszzl · x · 2026-10-15
researcher tszzl 评价一项新机制可解释性(mechinterp)工作：尽管仍需领域内学者验证，但结果反多数专家的预测——神经元的可解释性和 experts(MoE)本来就是合理的抽象，可以通过常规的探测与干预来研究，而 agentic 自动化研究是关键推动力。
他认为这证明 mechinterp 确实能在关键时间尺度上揭示模型内部发生了什么，「一场伟大的胜利」。
「漫话AGI」频道最新
- Pragmatic Engineer 收到滑铁卢学生邮件，发现来回全是 AI 代写 — marktenenholtz · 2026-10-16
- 马里兰大学哲学系招聘 AI 伦理与心灵哲学两教职 — sethlazar · 2026-10-16
- Dwarkesh 转述：Anthropic 内部预计 9 个月内 AI 比肩人类 AI 研究员 — ZeroStateReflex · 2026-10-16
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Sara Dietschy 感叹：AI 模型、商业模式、团队、服务商，一切皆是对齐问题 — saranormous · 2026-10-16
- David Brin：LLM 缺乏进化产物中关键的「欲望」能力 — cccalum · 2026-10-16