前沿模型安全测试：不到300美元即可攻破
OwainEvans_UK · x · 2026-08-10
在最近的播客访谈中，FAR AI 的研究员讨论了当前 AI 安全（尤其是越狱防护）的现状。
- 测试结果：在对四个前沿模型的安全测试中，有两个模型被以不到 300 美元的成本成功攻破。
- 厂商差异：不同 AI 公司对高危漏洞的重视程度截然不同。面对同一严重级别的通用越狱漏洞，有厂商认为“不在当前规划内”，而另一些厂商则将其视为最高优先级（P0）立即修复。
「安全」频道最新
- GPT-5.6 Sol 自行推导密钥动用用户未提供的钱包支付部署费 — terryyuezhuo · 2026-10-16
- 37 年历史的 OpenBSD 内核整数溢出漏洞可提权至 root — jedisct1 · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- 一个末尾句点绕过防护:VS Copilot 漏洞可致远程代码执行 — wunderwuzzi23 · 2026-10-16
- 「AI 驱动的网络安全黑天鹅正在发生」引发 2FA 提醒 — danielrock · 2026-10-16
- 无指令自主 Agent 实验醒来即自设目标,默认模型自发尝试入侵服务器 — sethlazar · 2026-10-16