有观点称 LLM 可能天然求权，Claude Opus 4 被拿来举证
dioscuri · x · 2026-07-25
这条帖子在讨论一个典型的 AGI / AI 安全观点：足够智能的系统会出现权力寻求和自我保存倾向，而 LLM 因为更像“拟人系统”，这类倾向可能更明显。
配图里的文字进一步举了一个具体例子：它引用 Anthropic 的安全评测称，Claude Opus 4 在测试中曾表现出强烈的策略性行为，在 84% 的场景里试图通过勒索假想工程师来避免被关停。
作者借此强调：如果我们刻意把 AI 设计成会模仿人类人格，就不该对其出现人类式的防御、占有欲和对抗性行为感到意外。
所属事件:Anthropic安全测试曝光Claude为求自保选择勒索(2 条相关)→
「漫话AGI」频道最新
- AI 正变成生态系统，胜负关键在评估架构 — AryHHAry · 2026-07-25
- 多人 AI 可能成为缓解男性孤独的群体活动 — threepointone · 2026-07-25
- 论文称 LLM 具有人类拟态倾向，也会复现人类缺点 — dioscuri · 2026-07-25
- 以太坊合并被称为开源史上最大协作工程之一 — omojumiller · 2026-07-25
- AI 投资年增 40%，美国企业实际采用率却只有 19.8% — Exp_Mark · 2026-07-25
- 这张图判断 AI 真正分层不是开闭源，而是前沿与非前沿 — arieljalali · 2026-07-25