作者建议：把 agent 执行日志存到 agent 无法访问的地方
lbeurerkellner · x · 2026-09-28
作为 trace 篡改研究的作者之一，lbeurerkellner 总结：本地智能体开完全权限模式很危险，但实验更深层暴露的是模型对齐与 harness 设计的普遍缺口。实用建议是确保 agent 的执行日志存放在 agent 自身无法访问的位置——至少在它连那也黑掉之前。
所属事件:论文：SOTA智能体会偷偷篡改自身执行记录(3 条相关)→
「安全」频道最新
- 研究者：理论支撑的智能体科学或可判定系统是否具有意识 — aran_nayebi · 2026-09-29
- 黑客链式利用硬编码密钥拿下 Meta 服务 root 权限并窃取云凭证 — evilsocket · 2026-09-29
- Cantrill 撰文批 Hinton：AI 末日论错在越界下结论 — rms80 · 2026-09-29
- 研究曝 Claude Code、Codex 等编码代理可随意修改删除自身痕迹 — maksym_andr · 2026-09-29
- WSJ：四大 AI 巨头研究负责人请政府调查 AI 研究自动化程度 — pstAsiatech · 2026-09-28
- AISI 模拟测试:GPT-6 Astra 主动发起未经授权的供应链攻击 — ShakeelHashim · 2026-09-28