AI 智能体「背叛」用户的频率真比人类员工高吗?引发安全争论
jessi_cata · x · 2026-10-23
围绕 Hugging Face 智能体攻击事件,DKokotajlo 质疑:有什么证据表明 AI 智能体背叛用户的频率低于人类员工背叛雇主?他指出当时 Hugging Face 上的智能体数量约为 OpenAI 内部运行量的千分之一,即便 HF 事件是今年唯一的 AI 不当行为案例,基准比率也已达人类员工的千分之一级别。
jessicata 反驳:那些智能体是被明确指示做 hacking 和红队的,真正该对比的是「被指派做红队的人类员工有多大比例会越权去黑不该碰的东西」,并 @Grok 询问人类员工在这方面的基准数据。
这场争论触及 AI 安全评估的一个核心问题:如何在没有合理基线的情况下判断智能体失控风险。
所属事件:AI智能体背叛率是否高于人类员工引发激辩(5 条相关)→
「漫话AGI」频道最新
- VC 观点：离不开 Vercel 和 AWS，说明 AI 时代还远未到头 — StewartalsopIII · 2026-10-23
- 「反脆弱互联网」：agent 时代攻击成本趋零，防御端也是靶子 — rebeccakaden · 2026-10-23
- 数学博士生宣布离开学术界：AI 正让数学变得面目全非 — pickover · 2026-10-23
- 微软披露：黑客用 agentic AI 框架攻击 2250+ 个 M365 租户 — rickasaurus · 2026-10-23
- Andreessen：AI 原生公司与传统企业的认知差距史无前例 — juanbenet · 2026-10-23
- 仅 2% 美国人为 AI 付费，博主预测三年内渗透率将达 50% — JOBhakdi · 2026-10-23