Halvar Flake 质疑 LLM 智能体安全标准:供应链攻击威胁门槛如何界定

halvarflake · x · 2026-10-05

安全圈知名人物 Halvar Flake(halvarflake)与 AI 安全研究者 David Manheim 就 LLM 智能体安全展开辩论。Manheim 认为:用户偏好易用性胜过安全性虽是「柠檬市场」,可以强制改变,但这只解决低垂果实,无法让系统抵御愿意发动供应链攻击的大型专家团队——这一威胁标准来自近期 LLM agent 攻击的实际形态,而投票系统、财务审计、形式化验证、密码学等领域已把此类鲁棒性作为基本设计准则。Flake 反驳:这个威胁标准从何而来?有哪个领域能真正扛住对手投入大规模研发力量?他认为双方讨论的根本不是同一件事。Manheim 进一步主张:数字安全应被重建为优先于成本和用户偏好的根本设计属性,而不是安全团队与 UX、开发团队博弈后打补丁。