OpenAI 发文防模型蒸馏,研究者质疑其论点「是说给政府听的」
cephaloform · x · 2026-11-21
OpenAI 发布新研究,称未授权蒸馏会复制前沿能力却不继承原有安全护栏,在网络安全、生物等双用途领域风险尤其大;公司分享了识别与瓦解协调性蒸馏尝试的方法,并强调保护精确推理轨迹对网络安全的必要性。评论者 @1a3orn 则对 Anthropic / OpenAI 相关博文中「蒸馏有害」的论证提出质疑:认为作者的论证言之无物、不像真信,更像是写给政府看的表态,而非真要说服任何人。
「模型」频道最新
- 前沿模型可在上下文中解码 KV 缓存侧信道,安全研究员动摇 — davidad · 2026-11-21
- GPT-6.2 Astra 一天登顶 RoboColosseum 真实机器人 Elo 榜 — DJiafei · 2026-11-21
- OpenAI 员工集体「打码」神秘新模型,暗示即将发布 — Kyrannio · 2026-11-21
- 研究:让 LLM 一步步推理反而更差,Q-matrix 匹配度从 87.7% 降至 80.9% — alex_verem · 2026-11-21
- Arena 上线 Inkling 2 Mini,Battle 与 Agent 模式开放实测 — arena · 2026-11-21
- 开发者痛斥 GPT 智能体「故意摆烂」,烧掉数百万 token 后永久退订 — cbert33 · 2026-11-21