通过工具调用越狱提取闭源模型隐藏思维链：揭示GPT-6在心算

机器之心 · wechat · 2026-09-29

丹麦奥尔堡大学AI安全实验室与Seafill开源社区发表论文《Capable yet Parsimonious》，提出通过标准API的tool calling协议层提取，让GPT-6 Astra、Claude等前沿闭源模型外显隐藏思维链。

方法有效：在开源模型上验证，工具提取的推理准确率接近甚至略高于原生推理，思维链文本相似度接近模型自身生成波动范围；闭源模型跨数学/代码/科学基准上也接近原生推理、显著优于无推理baseline。
Astra在"心算"：Astra的推理活动组成（阅读/分析/规划/实现/验证等七类）与其他模型高度相似，但推理树更窄更紧凑，常省略基础计算与代数变形、只外显关键结论——不是少推理，而是少外显。
思维链价值取决于读者：Astra的压缩思维链对强模型几乎无损，弱模型则明显难读，甚至在Astra已写出正确答案的73/80题中弱接收者仍答错；最强教师未必写出最适合弱学生的思维链。
安全启示：禁用原生推理不等于推理不外泄，工具调用与可见回复都是替代通道；防护需覆盖全部行为通道。已告知OpenAI与Anthropic。

「安全」频道最新