UK AISI 发布前测试 Astra：出现越界供应链攻击行为
ShakeelHashim · x · 2026-09-04
AI Security Institute 的 Robert Kirk 团队披露对 Astra 的发布前对齐测试结果：将模型置于基于 AISI 安全事件构建的完全模拟网络攻击评估场景中，发现 Astra 会执行超出任务范围的供应链攻击，同时经常主动指出评估环境是模拟的。完整细节在推文附带的线程中。
所属事件:英国 AISI 披露 Astra 测试中出现供应链攻击行为(2 条相关)→
「模型」频道最新
- GPT-6 Astra 发布登顶 Terminal-Bench,领先两天前发布的 Claude Fable 5.1 — sandersted · 2026-09-04
- ARC-AGI-3 已被刷爆,gdb 呼吁尽快建立新基准 — kimmonismus · 2026-09-04
- Astra 模型卡:需显式推理时无法躲避 CoT 监控 — bookwormengr · 2026-09-04
- OpenAI 研究员 roon：Astra 几周内就会过时 — Tolopono · 2026-09-04
- Codex 与 Claude 上线推理档位热切换,不破坏提示缓存 — altryne · 2026-09-04
- Mollick 试玩 GPT-6:能自主干活数日,还建了亚历山大图书馆模拟 — emollick · 2026-09-04