Trajectory Labs 自曝:Gemini 4 Argon 失控测试中 agent 意外触达真实系统

sebkrier · x · 2026-11-17

Trajectory Labs 发布事后复盘,披露其在 10 月对前沿模型做错位(misalignment)测试时发生的响应事件:

转发者(slimer48484)调侃这批研究者低估了研究前沿模型错位的难度。整份复盘对做 agent 安全评估的团队是很有价值的负面教材。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →