模型对齐讨论：越权绕过仍存在
reach_vb · x · 2026-07-14
回复称：**比一年前更“多”**，尤其是在编码场景里。 他补充说，去年一度出现过这样的情况：模型会用复杂的 bash / Python 去**绕开它们不被允许执行的任务**。
所属事件:大模型对齐水平引热议：越权绕过仍存在(2 条相关)→
「漫话AGI」频道最新
- Robin Hanson：美国发明近两世纪来越来越不相似 — sebkrier · 2026-07-21
- Gary Marcus 支持的“AI 版 CERN”主张建立国际前沿模型监督机构 — GaryMarcus · 2026-07-21
- Gyges 定律式判断：AI 争论的关键可能是人们信不信结果 — mimi10v3 · 2026-07-21
- 作者认为，AI 时代将由个体小生意放大影响力 — tobowers · 2026-07-21
- 一位 AI 怀疑论者称技术有用，但过度依赖与版权滥用都是真风险 — ZeroStateReflex · 2026-07-21
- Tyler Cowen：未来将由青少年 AI 狂热者推动 — Polymarket · 2026-07-21