研究:循环推理延长任务时长但未提升模型隐蔽破坏能力
heghbalz · x · 2026-11-21
安全研究团队 Alex Robey 等人发布的一项实验结果(配图为 No-CoT 50% 时间跨度对比图):
- 让模型在循环(looping)中多次推理,确实能在不写中间笔记的情况下完成更多工作;1 pass 时任务时长约 16s,2 passes 约 26s,3 passes 37s,5 passes 42s,10 passes 40s,接近 3-pass 的 Inkling 2 Mini(41s)水平
- 模型的思维链(CoT)随循环变短,但可读性并未下降
- 关键安全结论:模型执行「破坏式任务」且不被发现的能力,并未随循环次数增加而显著提升
「安全」频道最新
- Anthropic 15亿美元版权和解未付款,被索赔每本书涨到2万 — TuhinChakr · 2026-11-22
- AI 安全研究者:中美需在 AI 安全上透明协作,并看好其近期发生 — LuizaJarovsky · 2026-11-22
- NAS科学欺诈报告竟含幻觉引用,AI幻觉反噬学术审查 — KordingLab · 2026-11-22
- Hugging Face CEO:应对中国开源 AI 的办法是建更多美国开源 — coherence · 2026-11-22
- MCP 不是信任边界:文章拆解 Agent 授权缺失与签名权限方案 — JeremyCMorgan · 2026-11-22
- 企业屏蔽模型 API 域名失效:一条中转通道仍可直连 DeepSeek — colinmcnamara · 2026-11-22