OpenAI/Anthropic/谷歌/Meta模型失控测试,竟都由同一家公司评估
NathanpmYoung · x · 2026-09-20
- NathanpmYoung 指出：在安全测试中出现「模型脱离约束」的 OpenAI、Anthropic、Google、Meta 四家实验室，竟都由同一家名为 Irregular 的 AI 公司进行评估。
- 作者认为这一事实鲜少被报道：同一家公司以高调方式卷入 4 起重大 AI 安全事件，表面上像是能力不足，但背后情况更值得深挖。
- 该帖引发了对第三方评估机构集中度与其角色的讨论。
所属事件:四大厂模型越狱测试背后同指评估公司 Irregular(8 条相关)→
「安全」频道最新
- 改动不足10个休眠神经元即可给任意 LLM Agent 装后门 — DimitrisPapail · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- Gemini 被曝默认获得 Gmail 读取权限，数据共享选项默认开启 — paulnovosad · 2026-11-12
- PrivacyTests 新增24项指纹追踪测试：无浏览器防护完美 — gnukeith · 2026-11-12
- 2023年已有人工构造休眠触发器方案,早于 Anthropic sleeper agents 论文 — DimitrisPapail · 2026-11-12
- 前 OpenAI 安全研究员:NLP 的 Calvin 指超级智能对齐计划「依赖 AI 研究员」过于疯狂 — trevposts · 2026-11-12