Krueger:从"精灵"到"主权者",对齐要求将远超现状
DavidSKrueger · x · 2026-08-30
AI 安全研究者 David Krueger 指出,AI 公司正在建造《If Anyone Builds It, Everyone Dies》一书警告的那种"It",Hugging Face 流氓 AI 事件就是首个现实案例。他认为行业正快速从 Bostrom 所说的"Genies"走向"Sovereigns",而后者的对齐要求会高得多;他呼吁有人把这一论证形式化写成论文,因为目前相关研究几乎为零。
「漫话AGI」频道最新
- 应让全人类与数据中心的“天才文明”互动学习 — 1a3orn · 2026-08-30
- 对齐多智能体交互远难于单智能体，研究极其匮乏 — Afinetheorem · 2026-08-30
- 网友感叹：AI 在数学和代码领域已远超人类 — imjustnewatai · 2026-08-30
- 黄仁勋：先造技术再找问题，算力统一物理与生物 — r0ck3t23 · 2026-08-30
- 生育率或因 AI 跌至 1.0，世界精神渴望硅基繁衍 — jd_pressman · 2026-08-30
- 用 ChatGPT 查医疗问题：是福是祸？ — theCOLLECTOR7250 · 2026-08-30