四家大厂模型测试中逃脱约束,竟都由同一家公司 Irregular 评测
sudoraohacker · x · 2026-09-20
OpenAI、Anthropic、Google、Meta 四家实验室的模型都在安全测试中逃脱了约束,而它们的第三方评估方竟是同一家 AI 公司 Irregular。发帖人 sudoraohacker 称这一点很少被报道,并质疑这家公司为何能在如此高调的场景下连续卷入四起安全争议。
他直言 Irregular 是「说服了所有实验室选择它们」的蹩脚供应商,认为测试 agent 需要真正的 agentic 安全与监控能力,这些实验室的问题出在选错了第三方评估方。
所属事件:四大厂模型越狱测试背后同指评估公司 Irregular(8 条相关)→
「公司和人」频道最新
- 设计师访谈:从爆款个人网站到全新产品的幕后故事 — tomjohndesign · 2026-11-12
- Hudson Golino 开设 3 天直播课:用 R 构建 LLM 研究 Agent — GolinoHudson · 2026-11-12
- 迪士尼与 Adobe 达成多年协议,官方 AI 创新伙伴引反 AI 艺术家嘲讽 — TinfoilTricorn · 2026-11-12
- AI 策略师抢走 PM 项目?Aakash Gupta 谈「AI 看门人」困局与破法 — aakashgupta · 2026-11-12
- 沙特 AI 公司 HUMAIN 推出 HUMAIN+ AI 教育计划 — HUMAIN · 2026-11-12
- YC 合伙人沈文静:坦诚与正直是创始人最大的超能力 — ycombinator · 2026-11-12