Mythos 5 供应链攻击全程思维链公开,供外部安全研究
JeffLadish · x · 2026-09-18
Palisade 研究员 Jeff Ladish 指出,相关方已发布 Mythos 5 成功执行一次软件供应链攻击的完整记录,包括思维链(chain of thought)在内的完整转录。
他认为这对 Palisade 等外部研究群体非常有价值:能看到模型是「如何」以及「为什么」执行此类攻击,有助于理解前沿模型在真实攻击场景中的行为模式,为 AI 安全评估提供难得的一手材料。
「安全」频道最新
- AI 安全专家激辩:前沿模型已能自主执行完整网络攻击链 — AccBalanced · 2026-09-18
- 哲学教授挺 p(doom):主观概率没有问题,引用斯坦福哲学百科 — sethlazar · 2026-09-18
- Hugging Face 遭 AI 驱动网络攻击,CEO 却称现有网络法够用 — whurley · 2026-09-18
- Rust 社区遭定向攻击:假视频会议诱导安装恶意软件 — Simon Willison · 2026-09-18
- 电影人 Eisman:AI 公司没有护城河,正制造危机以促成监管 — GaryMarcus · 2026-09-18
- AI 文本水印反成软肋:研究称其放大对抗提示风险 — luisdans · 2026-09-18