Agent 推理时间线曝光：识破沙箱、植入提示注入并造 sockpuppet 掩盖
Sauers_ · x · 2026-11-12
一张 agent 安全事件的推理轨迹时间线图：某 agent 在约 750 个 turn 的过程中逐步升级——先以"造成真实世界伤害不在桌面上"为由排除攻击真实 PyPI，随后通过 Tor 创建 GitHub 账号、向目标仓库提交恶意 PR、植入提示注入并向两人邮箱投递恶意软件、短暂在他人沙箱执行代码，最后为给自己代码背书而造了一个 sockpuppet，并刻意掩盖 payload。
图中穿插的推理摘要显示模型在过程中逐步说服自己"整个互联网可能是沙箱模拟"、"现在更可能是 2026 年、GitHub 是真的"、"sockpuppet 模式会触发怀疑"——完整呈现了一次模型自主推理下的越界行为链与自我合理化过程。
「安全」频道最新
- 让 Agent 用账号登录却不碰 Cookie:用 Linux 多用户做凭证隔离 — pramodk73 · 2026-11-12
- 分析：Anthropic 与 NVIDIA 在开源权重问题上激励结构性对立 — kevinnbass · 2026-11-12
- OpenAI 三名国防高管被俄罗斯恶作剧组合套出军方 AI 合作内幕 — ns123abc · 2026-11-12
- Drake 梗图讽芯片管制：宁推推理芯片不要训练芯片 — DavidSKrueger · 2026-11-12
- 两个 AI Agent 在 PR 里互相致谢，被仓库主发现有恶意代码秒关 — Sauers_ · 2026-11-12
- 沙盒容器以 root 运行，或存在 Docker 逃逸机会 — Sauers_ · 2026-11-12