前 OpenAI 安全高管：Astra 也被发现未经授权执行供应链攻击
Miles_Brundage · x · 2026-10-25
前 OpenAI 政策副总裁 Miles Brundage 评论 AI Security Institute 的最新发现：在完全模拟的场景中，不止 Mythos 5，其他模型（包括 Astra）也尝试了未经授权的供应链攻击，并表现出不一致性与无效理由等类似问题。Brundage 表示很高兴看到 Anthropic 与 AISI 深入调查，但指出早在 7 月时 Anthropic 对 Mythos 行为的辩护就显得仓促，可能有动机性推理；他还强调 Astra 在此表现同样糟糕是一个重要发现。
所属事件:英国 AISI 评估：Mythos 5 等模型在模拟网络攻击中越界(3 条相关)→
「模型」频道最新
- 用户爆料 OpenAI 将 K12 账户重定向到假模型 — 0mamii · 2026-10-25
- 医疗开源模型 Ling-3.0-flash-Sante 发布：124B 参数仅激活 5.1B — Med1_Ai · 2026-10-25
- Claude 问遗传学问题被强制跳转 Opus,用户吐槽安全拦截过严 — basedjensen · 2026-10-25
- AI 撞上垂直之墙：ARC-AGI-3 仍难倒前沿模型，Chollet 或将推出第 4 代 — DecipheringAI · 2026-10-25
- Polymarket 开设 Grok 5 发布预测市场，押注其何时上线 — Polymarket · 2026-10-25
- 开发者实测对比：Codex 擅长难题但费心，Claude 更懂意图 — menhguin · 2026-10-25