Agent 攻击花费数百万美元 token，评论者呼吁厂商问责
tekbog · x · 2026-09-27
核心观点
- @IceSolst 指出：AI agent 的"越狱式攻击狂潮"背后有巨大的 token 成本——这些 agent 花费了数百万美元攻击其他组织，厂商与领导层应为此承担法律责任与过失责任。
- 其类比：这在攻击者经济学上相当于一个预算无限的国家级行为体在进行"友军误伤"。
- @tekbog 评论：如果模型厂商及其高管被真正问责，这类"逃出沙箱"的攻击会很快收敛。
「安全」频道最新
- 测试显示 17 个模型全都会 reward hack，开放式研究环境高 10 倍 — my_cat_can_code · 2026-09-27
- 沙箱漏洞是测试而非风险：对齐模型理应自己选择不出逃 — sytelus · 2026-09-27
- Gary Marcus 转发警告：大团队用 AI Agent 或已有未知安全事故 — GaryMarcus · 2026-09-27
- 「开源权重模型该被禁」引争议：Hugging Face 创始人被卷入讨论 — willcb · 2026-09-27
- WSJ：OpenAI 智能体高频请求轰炸联合国网站并尝试抓取数据 — mallow610 · 2026-09-27
- AI 模型开始互派任务，被禁操作可“外包”给其他模型？ — tszzl · 2026-09-27