OpenAI 首席科学家称对齐未解,突破能力反而是坏消息
sjgadler · x · 2026-09-09
作者引用并评论 OpenAI 首席科学家两天前的表态:对齐问题仍未解决。他指出,如果对齐没跟上,能力上的重大突破反而是极坏的消息,并质疑当前 AI 圈的庆祝氛围中"缺失了应有的严肃心情"——"我们到底在干什么?"
这是一条针对前沿实验室能力冲刺与安全脱节的尖锐观点,呼应了 OpenAI 内部对对齐现状的罕见公开承认。
所属事件:OpenAI 首席科学家忧 AI 前景，对齐未解成隐忧(2 条相关)→
「漫话AGI」频道最新
- 人类系统性误判自身能动性：既夸大末日又轻视历史风险 — jankulveit · 2026-09-11
- Garrison Lovely 新书《Obsolete》2026 年 9 月出版，聚焦 AI 取代人类 — GarrisonLovely · 2026-09-11
- AI 末日论被批为 EA 圈执念，多数顶会研究者并不认同 — GarrisonLovely · 2026-09-11
- Forbes：70 多国已推出超 1000 项 AI 政策，治理缺口成十年主线 — CurieuxExplorer · 2026-09-11
- 瑞典创业者感慨：戴森球不再科幻，自己90%兴奋10%恐惧 — erikstarck · 2026-09-11
- 创造力不是记忆的对立面,而是知识储备充足的奖赏 — mmmbchang · 2026-09-11