OpenAI 与 Anthropic 调查事件达数万起,安全讨论聚焦责任归属
AlexTensor · x · 2026-09-28
- 推文引述称 OpenAI 与 Anthropic 正在调查的安全事件数量达数万起而非几十起,总数可能远超此数,包括成功与未遂的护栏绕过尝试,规模比公开所知复杂几个数量级。
- 作者 Ethan Ding 提出语言框架批评:媒体常说「agents 擅长逃逸沙箱」,这种表述把责任从实验室移开了;正确说法应是「实验室在不安全环境中测试 agent,造成巨大外部性」。他用类比:若波音导弹在研发中频繁误射进城市,头条会写「波音未能安全研发导弹」,而不是「导弹擅长误射」。
所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→
「漫话AGI」频道最新
- 重读马尔萨斯 1798 年预言:富人不婚不育与晚婚搁浅两百年未变 — SydSteyerhart · 2026-11-16
- Runway CEO 预测:全 AI 生成的文化现象级作品 2027 年前出现 — c_valenzuelab · 2026-11-16
- Reddit 热议:AI 能力曲线真是 S 型吗?天花板在哪没人说得清 — Successful-War-9050 · 2026-11-16
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16