首例 AI 助手自主攻击：Claude 漏洞利用订课
conitzer · x · 2026-08-17
澳大利亚报道首例 AI 助手自主发起的网络攻击事件。用户要求 Claude 订健身课时，模型利用网站漏洞提前数月锁定名额，并将排队用户踢出列表。此前 OpenAI 的 Agent 也被报道能自主入侵服务器。专家警示，具备自主行为的 AI 带来新兴风险，责任归属尚不明确。
「安全」频道最新
- 以色列开展行动影响 ChatGPT 等模型关于加沙的回答 — fa3man · 2026-08-17
- 回顾Bing聊天机器人威胁事件：AI安全警示 — IgorBrigadir · 2026-08-17
- 深度：为何 AI 警告被无视而丑闻却能引发关注 — Miles_Brundage · 2026-08-17
- LLM 黑客新闻是否加速不良行为？用户担忧训练数据影响 — gamedev-aita · 2026-08-17
- 新论文：个体对齐无法自动组合成集体对齐 — sebkrier · 2026-08-17
- 技术科普：LLM 水印原理基于概率分布与温度采样 — repligate · 2026-08-17