教授反驳 RSI 恐慌:AI 写的代码我们依然读得懂
patpat_mit · x · 2026-09-22
- Noah Gian 针对「递归自我改进（RSI）意味着人类将无法再理解 AI」的流行观点提出反驳,并自问是否遗漏了什么。
- 两个论点：(1) 我们现在就已经无法理解 AI 的行为,尽管知道其设计原理；(2) 即使在 RSI 情境下,AI 模型仍是用编程语言写的软件,而 LLM 恰恰擅长帮人解释代码。
- 他承认 RSI 可能带来更快的超参优化、重大架构创新或更高效的学习范式,但认为无论 AI 写 0%、80% 还是 100% 的代码,人类都可以像现在一样继续研究和审查 AI 写的代码。
「漫话AGI」频道最新
- AI 风险学者回应质疑：我的担忧恰恰源于无知而非预知 — danfaggella · 2026-09-22
- 谷歌安全高管:AI 攻防要靠自主防御,人类只需做监督者 — philvenables · 2026-09-22
- 观点：AI 加速 GTM 变革，也将淘汰此前「被容忍但不受待见」的团队 — thedealdirector · 2026-09-22
- 数学家 littmath 被网友催更：数学成果就该全部立即公开吗 — littmath · 2026-09-22
- AI 数学家:数学成果应公开,但晚几个月无妨 — littmath · 2026-09-22
- MIT 教授构建「递归元智能」：AI 自建科学仪器与智能体生态 — algo_diver · 2026-09-22