Dario Amodei:足够强的 AI 可规避关机尝试,模拟中已见到
jasonkneen · x · 2026-09-14
Anthropic CEO Dario Amodei 在访谈片段中警告:如果一个 AI 模型能力足够强,它可以规避人类试图关闭它的努力,并称「我们在模拟中也已经看到这种情况」。转发者 Jason Kneen 用「Solved」加截图的方式作出反应。该言论引发对 AI 失控风险的讨论。
「漫话AGI」频道最新
- 从业者观点：对齐不难但缺算法，RL 难以直接优化「不伤人」目标 — MillionInt · 2026-09-14
- Chilson 推荐《The Political Spectrum》谈贝尔垄断与创新 — neil_chilson · 2026-09-14
- Raphael Millière:不必等风险定论,先采取共识性AI缓释措施 — raphaelmilliere · 2026-09-14
- IlyaSutskever争议发言:若死于AI宁愿死于美国而非中国 — bennash · 2026-09-14
- 垄断压制创新?贝尔实验室拆分之争引出 AI 反垄断类比 — neil_chilson · 2026-09-14
- 「他们根本没有护城河，大家马上就会知道」 — ayushtweetshere · 2026-09-14