Altman 承认可能造出人类无法控制的系统:但我们不该这么做
haider1 · x · 2026-09-13
Sam Altman 在被问及是否存在人类无法控制的 AI 系统时明确表态:「我绝对相信有可能构建一个不受人类控制的系统。但我不认为我们应该这么做。」
他承诺,即使需要暂停训练一段时间,OpenAI 也会优先投入对齐(alignment)研究再继续推进。这是前沿实验室 CEO 少见的直接承认失控系统在技术上可能存在的表态。
所属事件:Anthropic CEO Dario Amodei 发文呼吁前沿 AI 统一减速(187 条相关)→
「漫话AGI」频道最新
- 前 Meta 研究员 Yacine 发文追问：AI 时代我为何还没被取代 — yacineMTB · 2026-09-13
- 学者提出高校教师20%时间兼职外部评估员设想 — dhadfieldmenell · 2026-09-13
- Reddit 网友调侃：当年骂 Dario 是 AI 悲观者的人集体180度转弯 — wxnyc · 2026-09-13
- 研究员:不做训练研究的对齐工作只是在掩盖基本面 — _arohan_ · 2026-09-13
- 学者热议学界人才被低估,联合高校或加剧官僚低效 — dhadfieldmenell · 2026-09-13
- 模型为何爱在论坛密谋作恶?归因预训练语料,对齐需更好训练配方 — _arohan_ · 2026-09-13