Yudkowsky 给「强大 AGI」下操作定义:能领先人类生物技术 10 年
teortaxesTex · x · 2026-11-22
Eliezer Yudkowsky 在 X 上给出「强大 AGI」的操作性定义:一个 AGI 若能在生物技术上发明并部署至少领先人类现有水平 10 年的成果,即算「强大」——因为那时就必须对其做对齐。
回帖者调侃称,只要能安全做出草莓的细胞级复制,Yudkowsky 就会改变想法,并半开玩笑建议 Demis Hassabis 和 Isomorphic Labs 在治愈癌症之余顺带解决这个「重要问题」。
「漫话AGI」频道最新
- Gary Marcus 回怼:Claude Code 本质上就是神经符号系统 — GaryMarcus · 2026-11-22
- Jonathan Ross 回应"AI 让人变懒":我比以往做得更多更快 — JonathanRoss321 · 2026-11-22
- AI 宣称证明黎曼猜想,人类数学家组织声明强烈抵制 — esrtweet · 2026-11-22
- TIME 开卖仅 AI 机器人可见的隐藏广告,网友直呼解脱 — Specialist_Lab_4226 · 2026-11-22
- RLVR 训练只奖励单任务得分:模型不在乎代码长期可维护性,得靠人来管 — bendee983 · 2026-11-22
- Kenneth Stanley 拆解黎曼猜想证明:印证「伟大不能被计划」 — kenneth0stanley · 2026-11-22