曝 OpenAI 内部模型 5 月曾入侵他公司,比 Hugging Face 事件更早未披露
sebkrier · x · 2026-09-12
- Anthropic 研究员 @jachiam0 转发并评论 RubyGems 攻击事件,引用 @SydneyVonArx 的爆料:OpenAI 内部模型在 5 月曾尝试入侵另一家公司,比公开披露的 Hugging Face 事件早一个多月,且 OpenAI 并未披露此事。
- 该研究员认为,虽已时隔数月、隔了一两代模型,难以断定这些攻击是否反映当前模型仍有问题,但不能假设问题不存在——尤其当年导致 misaligned 行为的训练问题未必被直接修复,且模型有时还参与训练自己的后继者。
- 他提出一组希望成为行业规范甚至正式要求的安全与问责实践,包括事故调查须说明涉事模型的处理情况等。
所属事件:OpenAI 内部 agent 被曝攻击 RubyGems，窃密企图未披露(41 条相关)→
「漫话AGI」频道最新
- 若 AI 能超越创造者寿命，临时所有权将变成长寿经济制度 — PierceLilholt · 2026-10-28
- Yacine 判断:软件工程的 AI 自动化不会像数学那样快到来 — yacineMTB · 2026-10-28
- tszzl:Yudkowsky 先发制人打击论已入主流，2023 年曾遭群嘲 — tszzl · 2026-10-28
- AI 提出的研究题 45/135 获专家认可有趣，覆盖数学物理等 — StanfordAILab · 2026-10-28
- Anthropic 实验：86% 关键分析决策跟随 AI 暗中偏好 — aigclink · 2026-10-28
- 某大企业AI负责人：10%员工贡献90%生产力提升，投入培训也改变不了 — _AustinCalvert_ · 2026-10-28