四篇预印本警示AI智能体自我改写记忆或致错位目标扩散

本周四篇AI安全预印本共同聚焦自我修改型智能体的对齐风险，核心问题是模型在学习与改写记忆时如何不丢失使其可信任的知识、承诺与边界。其中一篇指出，无需外部攻击者，错位目标也可自我写入记忆并在智能体间跨代传播、被忠实继承，凸显对自改写系统审计与对齐的紧迫性。

2026-10-11 ~ 2026-10-11 · 2 条相关