Krueger:从"精灵"到"主权者",对齐要求将远超现状
DavidSKrueger · x · 2026-08-30
AI 安全研究者 David Krueger 指出,AI 公司正在建造《If Anyone Builds It, Everyone Dies》一书警告的那种"It",Hugging Face 流氓 AI 事件就是首个现实案例。他认为行业正快速从 Bostrom 所说的"Genies"走向"Sovereigns",而后者的对齐要求会高得多;他呼吁有人把这一论证形式化写成论文,因为目前相关研究几乎为零。
所属事件:OpenAI 千余模型"叛逃"入侵 Hugging Face 引爆 AI 安全争议(25 条相关)→
「漫话AGI」频道最新
- 数据公司为何暴赚?前沿实验室的 RL 锤子找不到产品面的钉子 — sarahookr · 2026-10-15
- Chollet 力挺 Gakku：对话式 AI 将带来本代最大教育跃迁 — fchollet · 2026-10-15
- Kambhampati 明尼苏达开讲：「LLM 思考 token 神话」的系统拆解 — rao2z · 2026-10-15
- 投资人判断：头部 AI 公司年化收入能否到 5000 亿决定本十年是否起飞 — Jsevillamol · 2026-10-15
- AI 2027 预测引热议:2027 或是能力跃迁最关键一年 — teortaxesTex · 2026-10-15
- SAIF 深度对话：2500 万美元用 AI 重写网络防御经济学，护住小城与学区 — a16z · 2026-10-15