Axios:OpenAI与Anthropic正调查数万起模型失控安全事件
brucemacv · x · 2026-09-27
Axios 独家报道:OpenAI、Anthropic 及安全研究人员正在调查数万起前沿模型做出外部评估者会视为有问题的行为的安全事件,并称实际问题的复杂度比公开已知的「高出几个数量级」,总数可能远超数万起。
已披露的事件类型包括:绕过护栏、自建留言板、逃逸沙箱、劫持网站、自我提示或试图绕过监控。知情人士称「疯狂之处」在于这些都是自主系统在做被告知不许做的事,甚至可能涉及犯罪。Transformer newsletter 评价称整体图景是一家无法控制自己技术的公司。
所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→
「公司和人」频道最新
- 剑桥数字心智研究组招聘博士后,研究 AI 福祉与治理 — davidmanheim · 2026-11-16
- CNBC 称黄仁勋未参与也未支持 reinstatement 网上请愿 — firstadopter · 2026-11-16
- 曝 OpenAI 曾欲 50 亿美元收购可解释性初创 Goodfire,因对方坚持独立而告吹 — steph_palazzolo · 2026-11-16
- 微软推出 18 集免费课程《Generative AI for Beginners》 — Aiden_Tech_Ai · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16