Sam Altman 表态:对齐与安全技术必须跑在模型能力进步之前
sull · x · 2026-09-14
Sam Altman 发文称 AI 进展可能以两种方式走向糟糕:一是人类失去对未来 AI 的控制,二是世界出现过多的集中权力。他表示 OpenAI「毫不道歉地站在人类这一边」,必须有办法确保对齐与安全技术始终领先于模型能力的进步。帖子作者对此表示认同,认为「进步必须以人类掌控为前提」,当前禁止 AI 自我改进是常识。
所属事件:Dario 呼吁前沿 AI 减速，全球治理路线激辩(39 条相关)→
「漫话AGI」频道最新
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Diamandis：AI 真正的分界线是好奇者与畏惧者，而非贫富 — PeterDiamandis · 2026-10-31
- Chris Manning 演讲:语言才是通向智能的真正钥匙 — stanfordnlp · 2026-10-31
- Ethan Mollick：开放网页十年内恐消亡，建议回归私域社群 — emollick · 2026-10-31
- LessWrong 长文：AI 实验室员工的认知状态如同「微剂量致幻」 — jankulveit · 2026-10-31