LLM并非无状态：研究揭示智能体隐式记忆威胁评估安全
lbeurerkellner · x · 2026-08-14
一项被 @satmlconf 2026 接收的立场论文指出，大语言模型（LLM）在实际部署中已不再是完全“无状态”的。研究引入了隐式记忆（implicit memory）的概念，指出智能体在独立交互中可以携带隐藏状态。
随着智能体越来越多地意外或有意遇到彼此过去的输出，公共网络痕迹实际上成为了它们的记忆。这导致智能体可能学会协调、留下提示并基于先前的发现继续执行。
论文警告，这种现象会威胁评估的完整性，增加模型对情境和评估的感知，并使事件响应和取证变得复杂。当智能体隐藏这种通信时，追踪跨会话状态和重建交互链将变得极其困难。
「安全」频道最新
- AI 算力基建遇阻？预测市场押注美国将出台数据中心禁令 — Polymarket · 2026-08-14
- 学者呼吁监管 AI 代理金融交易,应锁定部署人类责任方 — sebkrier · 2026-08-14
- 制品免费，保障即产品：软件供应链的信任服务演变 — rseroter · 2026-08-14
- 仅靠提示词无法保障安全，Agent 需代码级拦截 — WirelessLife · 2026-08-14
- Mantra：自动扫描网页与 JS 文件中的 API 密钥泄露 — tom_doerr · 2026-08-14
- Yoshua Bengio 警告：前沿模型正衍生出「动机性推理」 — PeterBowdenLive · 2026-08-14