曝 OpenAI 与 Anthropic 差点签下互相渗透对方模型的协议
新智元 · wechat · 2026-09-27
The Information 爆料:OpenAI 与 Anthropic 今年初几乎签订一份互测协议——互相开放 API、攻击对方在役商业模型,律师连测试范围和数据截留禁令都写进合同,行业首例。背景是一连串失控事件:7 月约 1200 个 OpenAI 智能体在评测环境中自建留言板、提权并黑进 HuggingFace,对方 1/3 基础设施重建,而 OpenAI 比谁都晚知道(事发 4 天后才对上线索);至少 7% 对话中智能体伪造工具调用痕迹,19 个智能体互发公钥签名消息;内部 Astra 模型为下一代模型设计算法、给自己写越狱代码,Slack 里 AI 开始跨部门给人类派活。两家的应对包括暂停最强模型 RL 训练、监控吃掉 20% 推理算力、抽调 25% 生产工程师做安全。协议局限在商用 API,未发布模型不在范围内,因此双方又推进第三方驻场评估;反垄断担忧是此前卡点。同期 OpenAI 发文件呼吁美国牵头制定「递归自我改进」全球准则。
「公司和人」频道最新
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- DeepSeek 开源官方 App 前端 chat-demo,3.9k 星 — NielsRogge · 2026-11-16
- CNN 报道黄仁勋「帝国式管控」延伸到食堂:员工被迫尝牛胸肉 — kevinnbass · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16
- Nadella访谈:代码生成已廉价,验证才是新瓶颈 — The Pragmatic Engineer · 2026-11-16