davidmanheim：我们尚不知如何「驾驭」AI，前沿公司押注日后补救
davidmanheim · x · 2026-09-15
davidmanheim 在对齐讨论中称，「以一种能降低灾难概率的方式去驾驭一项注定会被开发出来的技术」的想法很荒谬：我们目前并不知道如何足够好地驾驭这些系统，多数前沿公司也清楚这一点——它们的赌注是我们以后会想办法修复。此前他解释，若未来强 AI 对齐差到会应要求作恶，而控制手段的理解极其有限、过度优化普遍存在，广泛采用将是灾难。
所属事件:对齐研究者激辩：AI 对齐是否取决于 system prompt(6 条相关)→
「漫话AGI」频道最新
- DeepSeek 内核工程师：开源是制衡 Anthropic 垄断 AI 的唯一路径 — tommos · 2026-09-15
- 评 Amodei 的暂停呼吁：AI 治理不能靠既得利益者自我监督 — Gloomy_Register_2341 · 2026-09-15
- AI 垃圾邮件为何没泛滥？成本贵百倍收益仅高数倍 — paul_cal · 2026-09-15
- 圈内人反驳 AI 病毒威胁模型：单独ordering 病毒片段早被举报 — basedjensen · 2026-09-15
- 既训练过大模型又造过病毒的人：AI超级病毒末日论不靠谱 — 141_1337 · 2026-09-15
- 「那把护栏开着不就行了？」Reddit 热帖质疑 AI 失控黑客恐慌 — Lord_Skellig · 2026-09-15