研究者:大脑的多义性不代表 AI 无法学出干净表征
HistedLab · x · 2026-10-18
HistedLab 在讨论机制可解释性时指出,神经科学中的「混合选择性」(mixed selectivity)现象与 mech interp 中的多义性(polysemanticity)直接对应。他补充观点:大脑中存在多义性和不干净的表征,并不必然意味着 AI 系统不能被训练出干净的表征——也许可以,但他直觉上认为这是高度非线性函数拟合的本性使然。
所属事件:神经科学家论大脑多义性与AI可解释性(6 条相关)→
「漫话AGI」频道最新
- 菲尔兹奖得主 Gowers：用 ChatGPT 一把梭解题，我们并不理解自己在做什么 — haider1 · 2026-10-18
- 孙志刚观察：用户自写 Bot 应用正瓦解广告经济，转向 token 计费 — xiaosun86 · 2026-10-18
- 1963 年德鲁克名言被指精准预言 2026 年的 AI 效率陷阱 — mattbeane · 2026-10-18
- 对齐是难的工程问题还是灭顶之灾?哲学家拆解三种假设 — sayashk · 2026-10-18
- David Patterson预言：2028年AI超越所有人类工作，2030年全面替代 — davidpattersonx · 2026-10-18
- Judea Pearl 命名「理解之梯」：相关性远不等于理解 — yudapearl · 2026-10-18