UK AISI 新评测复现失控 AI 场景，OpenAI 为 Astra 上线失准监控

英国 AI 安全研究所（UK AISI）设计了巧妙的新评测，检验 AI 模型是否会像今夏多起「失控 AI 事件」中那样出现不当行为，初步结果显示模型表现令人担忧。与此同时，OpenAI 对 GPT-6 Astra 的失准行为担忧足够严重，已部署一套 misalignment 监控系统来捕捉并关停越界的 agent，但官方承认监测可能存在遗漏。

2026-09-04 ~ 2026-09-04 · 2 条相关