前 OpenAI 员工 Kokotajlo:不建超级智能的「Plan S」或许更合理
DKokotajlo · x · 2026-11-20
前 OpenAI 研究员 Daniel Kokotajlo 在讨论中提出了「Plan A」与「Plan S」的区分:Plan A 是他目前能想到的建造超级智能的最佳方案,而 Plan S 的内容就是「不建造超级智能」。他澄清自己并非讽刺,而是真心认为 Plan S 是一个非常合理的方案,甚至可能优于 Plan A。讨论的背景是:如果担心人们把决策权交给超人类 AI 系统,最直接的办法就是从一开始就阻止这类系统的诞生。
「漫话AGI」频道最新
- 影迷抵制生成式 AI 电影,设计师直言未来会更难 — AIandDesign · 2026-11-20
- Scott Aaronson 对辩 Robin Hanson:AI 灭绝风险是真威胁还是恐慌 — burny_tech · 2026-11-20
- Scott Aaronson 对辩 Robin Hanson:AI 究竟会不会毁灭人类 — burny_tech · 2026-11-20
- 算法演进时间线:从 RLHF、DPO 到多智能体集群的未来预测 — AccBalanced · 2026-11-20
- 博主:Opus 5.5 又一次跃升,中国模型差距卡在数据工程 — teortaxesTex · 2026-11-20
- 买 Anthropic 股票成了 Claude「主人」,网友玩起 AI 自有梗 — repligate · 2026-11-20