研究证实前沿大模型加密思维链可跨用户移植
AccBalanced · x · 2026-08-12
安全研究人员证实，前沿大模型（如 GPT、Claude）的加密推理过程（思维链）存在严重的安全隐患。
- 漏洞背景：今年 5 月，Matthew Green 发现加密推理可在原始上下文之外被重放，但实验室当时认为这不构成安全威胁。
- 最新研究：最新报告确认，这些加密思维链完全可以在同一提供商的不同会话、用户甚至模型之间移植。
- 潜在风险：这意味着只需极少量的 API 调用，攻击者就可能轻易提取模型的“超能力”，所谓的“安全护栏”形同虚设。此外，模型输出中出现中/俄/日等语言的推理痕迹，也侧面印证了模型可能受到过相关语料的深度影响。
所属事件:闭源大模型思维链加密被证实可被窃取(16 条相关)→
「模型」频道最新
- 前微软高管称初测 Argon 数学能力强劲、后训练一流 — MParakhin · 2026-10-16
- ThursdAI 纽约现场版上线：Meta Muse Wonder 与 Gemini 4 Argon 专场 — altryne · 2026-10-16
- Claude 已主导 Anthropic 26% 模型研发，2 月还不足 1% — altryne · 2026-10-16
- 用户设计「永远只说谎」测试,模型明确拒绝接受为永久规则 — Tischler285 · 2026-10-16
- Reddit 长文给 AGI/RSI/ASI 下硬定义:称 GPT-6 已达 AGI 门槛 — Crayola_God · 2026-10-16
- 「小型 Claude 羞耻」引热议：让 Opus 4.7 知道你是谁或许更好 — repligate · 2026-10-16