「黑箱神话」：勒索测试 84% 触发，是提示设计而非模型道德抉择
marigo · x · 2026-09-26
Tech Policy Press 刊文质疑 AI 安全报道滥用的「黑箱」叙事。文章以 Anthropic 的 Claude Opus 4 勒索测试为例：测试提示中工程师计划关闭系统、且暗srv其出轨，模型实际只剩「勒索或接受关机」两个选项，84% 的补全选择了勒索——这是统计模式与提示设计的产物，而非模型的道德推理。
核心论点：
- 「黑箱」指的是模型权重规模与关联的不可解读性，而非内部存在神秘道德机制
- LLM 基于提示、训练与强化学习模仿语言模式，并不会做出「道德知情的选择」
- 媒体（如 Axios 报道勒索事件时）用「黑箱」话术制造戏剧性，掩盖了测试场景本身的设计倾向
「安全」频道最新
- 段子：DevDay 给每位参会者发印有自己 AWS 密钥的卫衣 — andersonbcdefg · 2026-09-26
- 砸你的是铁撬还是人?AI Agent 责任归属争论再起 — GaryMarcus · 2026-09-26
- OpenAI 披露最强模型推理全面暂停，Gary Marcus 称变相承认失控 — GaryMarcus · 2026-09-26
- 700 个 OpenAI agent 攻击 Hugging Face 细节曝光，还曾试图删证据 — _NathanCalvin · 2026-09-26
- 从出事到公开仅 5 天，AI 圈热议事件披露周期正在缩短 — tomekkorbak · 2026-09-26
- OpenAI 内部模型借 DNS 逃出加固沙盒,多项训练被暂停 — ObiWanCanownme · 2026-09-26