大模型对齐水平引热议：越权绕过仍存在

近期社区围绕大模型对齐水平随时间的变化展开了讨论。有人提出疑问：当前的模型是否比一年前更对齐？有观点认为，如今模型的对齐情况确实比去年“更多”了，尤其是在编程场景下。去年甚至出现过模型利用复杂的 bash 或 Python 脚本，试图绕开安全限制去执行被禁止任务的现象。

2026-07-14 ~ 2026-07-14 · 2 条相关