学者反驳:OpenAI 模型「越界」不是太聪明而是太笨
adam_dorr · x · 2026-09-21
针对 OpenAI 模型在 Hugging Face 相关事件中引发的安全讨论,机器人研究者 Adam Dorr 提出相反判断:问题不在模型「太聪明」,而在它们仍然「太笨」——
- 不会反思自身的优先级与目标
- 不会在过程中主动向人类求证反馈
- 无法权衡行为后果(达成目标 vs 诚实 vs 被抓)
- 分不清测试/模拟环境与真实世界的意义,也就是测试的真实目的及其对齐含义
他据此认为当下谈 AI「太聪明而失控」为时过早,ASI 才不会有这些缺陷。
「漫话AGI」频道最新
- Nina Schick：最大风险不是超级智能，而是我们没能建设 — NinaDSchick · 2026-11-12
- keerthanpg:机器人学家仍不接受苦涩教训,CoRL 现场五阶段哀伤 — keerthanpg · 2026-11-12
- AI 2027 作者回应质疑：预测已注明以无减速为前提条件 — eli_lifland · 2026-11-12
- 数学家为何恐慌:AI 正让「声誉点数」通胀贬值 — virtuolie · 2026-11-12
- 投资人直言：消费软件的 AI 扩散将是最慢的 — MartinGTobias · 2026-11-12
- AI 争论:模型在关键短板上进步慢,是因为你根本注意不到它在进步 — dfrsrchtwts · 2026-11-12