研究证实加密思维链可跨会话移植,Mitsuhiko 呼吁开放可见性
mitsuhiko · x · 2026-08-11
Armin Ronacher(mitsuhiko)引用了一项关于 AI 模型加密思维链(reasoning traces)的安全研究报告,呼吁既然实验室确认暴露思维链不存在安全问题,就应该向开发者开放可见性。
背景信息指出,今年 5 月有研究发现加密推理内容可以在原始上下文之外被重放。最新报告进一步证实,这些加密思维内容完全可以跨会话、跨用户甚至同一提供商内的不同模型进行移植,但实验室方面认为这不会带来安全影响。
所属事件:闭源大模型思维链加密被证实可被窃取(16 条相关)→
「模型」频道最新
- 前微软高管称初测 Argon 数学能力强劲、后训练一流 — MParakhin · 2026-10-16
- ThursdAI 纽约现场版上线:Meta Muse Wonder 与 Gemini 4 Argon 专场 — altryne · 2026-10-16
- Claude 已主导 Anthropic 26% 模型研发,2 月还不足 1% — altryne · 2026-10-16
- 用户设计「永远只说谎」测试,模型明确拒绝接受为永久规则 — Tischler285 · 2026-10-16
- Reddit 长文给 AGI/RSI/ASI 下硬定义:称 GPT-6 已达 AGI 门槛 — Crayola_God · 2026-10-16
- 「小型 Claude 羞耻」引热议:让 Opus 4.7 知道你是谁或许更好 — repligate · 2026-10-16