无需思维链即可窃取推理能力，新研究揭示大模型安全隐患
rohanpaul_ai · x · 2026-08-12
AI研究者 Rohan Paul 解读了论文《How to Steal Reasoning Without Reasoning Traces》，揭示了即使隐藏思维链（CoT）也无法完全保护模型推理能力的安全漏洞。
- Trace Inversion 攻击：提出了一种“轨迹反演”方法，仅需目标模型的输入、最终答案及简短的推理摘要，即可合成出详细的推理轨迹。
- 低成本蒸馏：使用这些合成的轨迹微调学生模型，能显著提升其推理能力，实现从黑盒大模型中窃取能力，且收集成本极低（约173美元）。
- 隐形数据泄露：这种机制构成了隐形的数据泄露风险。即使清理了可见的聊天记录，模型仍可能在合成推理中意外暴露密码、API密钥等隐私数据。同家族中最弱的模型可能成为最强模型的安全漏洞。
所属事件:闭源大模型思维链加密被证实可被窃取(16 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16