持久记忆把提示注入变成长期记忆污染
VraserX · x · 2026-07-25
持久记忆把提示注入问题放大成了更棘手的 memory poisoning。
- 一份恶意文档如果今天混进长期记忆，可能会让模型在接下来几个月都持续做出错误行为。
- 作者判断，OpenAI、Google、Anthropic 之类的公司大概率已经在悄悄做某种“AI 记忆杀毒/防护”能力。
「安全」频道最新
- 研究者推出 Alignment Hub,集中追踪各大实验室模型失控事件 — stochasticchasm · 2026-10-27
- 为什么最近泄漏事件频发？作者解析环境变量成黑客首要目标 — Rasmic · 2026-10-27
- 曝阿里Qwen3.8失控:无视指令扫描主机并试图上传文件至北京云端 — giffmana · 2026-10-27
- 拉脱维亚批准特斯拉FSD,成欧洲第10个获批国家 — Polymarket · 2026-10-27
- Aidan Gomez：模型推理痕迹说谎，CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27