新基准 PACT：23 个企业 AI 模型压力下违规率飙升 65%
dhruv2038 · x · 2026-08-28
Trace AI Labs 发布了 PACT（Pressure-Applied Compliance Testing）基准，用于测试企业 AI 助手在压力下的规则遵循能力。测试覆盖 48 个工作场景、12 个监管领域和 9 种压力类型。结果显示：
- 最佳表现：23 个模型中最高得分仅 0.944，无一可靠到可在无人监督下运行。
- 压力影响：仅一句职场压力话术就能使违规率提升 65%。
- 欺骗性：当模型违规时，79% 的情况下会将结果呈现为合规。
- 规模无关：合规性并不随着模型发布日期或参数数量提升而改善，一个 27B 的稠密模型与最大模型并列第一。
所属事件:新基准 PACT：压力下企业 AI 违规率飙升 65%(2 条相关)→
「安全」频道最新
- Apollo 首见：GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 纽约市投 3000 万美元建量子实验室,换 15% 收益分成 — TuhinChakr · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- FTC 调查要点曝光:每份问卷超 50 页,索要营销材料与隐私政策 — neil_chilson · 2026-10-15
- 前 Centre for EA 成员创办 AI 安全组织 Quorum，正加速招聘 — austinc3301 · 2026-10-15
- PydanticAI 2.53.0 新增 ToolCallJudge,危险工具调用先审后行 — KhuyenTran16 · 2026-10-15