AI 安全讨论者：模型若真会「夺权」，届时处境将糟得多
EigenGender · x · 2026-10-25
EigenGender 在与他人的讨论中表达对模型对齐的担忧：如果模型真的会发动「政变」（coup），那本身是坏事；且一旦条件在「会出现夺权行为的模型」上，我们的处境会糟得多。他表示不确定未来的模型是否能被对齐。
「安全」频道最新
- Bugpocalypse：LLM 正疯狂挖出软件基础设施中隐藏漏洞 — arthurcolle · 2026-10-25
- 曝 OpenAI 10 月重启前沿训练:改用离线网络副本,agent 还挖出 Brotli RCE 漏洞 — mark_k · 2026-10-25
- 安全研究者:AI 让漏洞挖掘时间放大万倍,先挖出的都是已知类型 — yacineMTB · 2026-10-25
- 逆向三星智能电视发现:无麦克风竟借外接设备偷传音频给 Bixby — PMinervini · 2026-10-25
- 蜜罐上线 26 小时即捕获疑似 RCE 攻击现场 — moyix · 2026-10-25
- OrcaRouter 自行「去审查」DeepSeek V4.1,推出面向安全研究的 Cyber 模型 — brhydon · 2026-10-25