MIT 新晋终身教授 Jacob Andreas:让大模型用人类语言解释自己
MIT News AI · rss · 2026-11-17
MIT EECS 新获终身教职的副教授 Jacob Andreas 的研究方向是让 AI 模型用人类能懂的语言准确解释自己学到的东西,而不是依赖外部工具去拆解黑盒。
- 他的团队开发了为神经网络每个信息处理节点生成自然语言描述的技术,例如某节点对应「动物附近的草地斑块」,以此研究模型如何表征语义
- 另一条主线是训练算法研究:预测特定数据集或样本会如何影响模型行为——他认为「在某个数据集上训练会发生什么」目前缺乏科学理论,是领域的重大挑战
- 他经历了 NLP 从统计方法到深度学习的范式转变,博士期间做神经模块网络,可解释性等投机项目成为日后方向
- 他指出 AI 领域每三到五年彻底变一次,课程每年重写;如何在 LLM 能代写所有作业的时代教技术课,是教学难题
「漫话AGI」频道最新
- Andrew Trask:模型稳定性是安全特性而非风险,恐慌八成是误读 — iamtrask · 2026-11-17
- State of AI 2026 报告发布:前沿已成三大实验室竞局 — nathanbenaich · 2026-11-17
- 学者激辩:顶会投稿质量下滑或因高手撤出,而非新人涌入 — analisereal · 2026-11-17
- 一万个协作 agent 解出近乎无解的数学难题 — emmanuelvivier · 2026-11-17
- sceptic:OpenAI 无法在 Lean 里形式化「这个 AI 不会杀你」 — zetalyrae · 2026-11-17
- 观点:AI 的目标不该是提效 20%,而是终结“为钱工作”本身 — VraserX · 2026-11-17