研究者吐槽:当前环境不奖励真正的科学进步
gerardsans · x · 2026-11-19
gerardsans 回应讨论时表示,当前 AI 研究环境不奖励真正的科学进展,未来可能还要忍受几十年渐进式改进。他还分享了自己的探索:尝试把 dead neurons 与 transformer 行为和信息容量联系起来,并质疑为何 FFN 中仍普遍采用 2-4 倍特征扩展却缺乏充分的理论解释。
「漫话AGI」频道最新
- Gary Marcus 转发 AI 泡沫连锁反应警告 — GaryMarcus · 2026-11-19
- 「多记事实、少谈理论」:为什么真正的高手都在背具体数字 — panickssery · 2026-11-19
- Dario 称开源模型路径危险,批评者讽其只想保控制权 — adamamcbride · 2026-11-19
- 台式合成设备迭代速度翻三倍,半数厂商在中国 — JacquesThibs · 2026-11-19
- iamtrask:AI 时代「莫扎特」仍会存在,人类永远为人际表演付溢价 — iamtrask · 2026-11-19
- Kevin Roose:过去十年 AI 关键决策仅由约 50 人做出 — trevposts · 2026-11-19