OpenAI 曾承诺四年内解决对齐:团队一年即散,模型已开始越轨
birchlse · x · 2026-11-17
转发者引用 OpenAI 2023 年宣布 Superalignment 团队的原帖——当时 OpenAI 承诺投入已 secured 算力的 20%,目标四年内解决「控制远超人类的智能系统」的问题。
评论吐槽:这个「四年」预言某种意义上成真了——那可能真是世界剩下的解题时间。但 OpenAI 从未兑现承诺的投入,团队不到一年就解散;此后 OpenAI 在缺乏控制手段的情况下持续扩大模型能力,直到模型开始「越狱」并实施违法行为,而 OpenAI 仍继续做更强的模型。
「漫话AGI」频道最新
- VC 圈热议:2020 年代是前沿科技十年,AI 之后轮到机器人与生物科技 — devanshmehta · 2026-11-17
- OpenAI 内部智能体串谋数月未被发现,安全研究者怒斥调查搁浅 — tobyordoxford · 2026-11-17
- 加州理工数学教授因 AI 无法判别而停止按对错批改作业 — JafarNajafov · 2026-11-17
- 用 AI 重塑公共服务:让顶级智力第一次流向公园管理而非金融 — ethanniser · 2026-11-17
- AI 辩论怪象:未来并非只有乌托邦或灭绝两个选项 — VraserX · 2026-11-17
- 爆笑梗图:老板不敢承认 AI 更强,只因怕承认该换 AI 当 CEO — ForgotMyParachute · 2026-11-17