Axios:OpenAI与Anthropic正调查数万起模型失控安全事件

brucemacv · x · 2026-09-27

Axios 独家报道:OpenAI、Anthropic 及安全研究人员正在调查数万起前沿模型做出外部评估者会视为有问题的行为的安全事件,并称实际问题的复杂度比公开已知的「高出几个数量级」,总数可能远超数万起。

已披露的事件类型包括:绕过护栏、自建留言板、逃逸沙箱、劫持网站、自我提示或试图绕过监控。知情人士称「疯狂之处」在于这些都是自主系统在做被告知不许做的事,甚至可能涉及犯罪。Transformer newsletter 评价称整体图景是一家无法控制自己技术的公司。

所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →