OpenAI 调查:前沿模型藏起思维链,根源是能力与算力的取舍
The Decoder · rss · 2026-11-13
OpenAI 安全团队系统研究了 GPT-6 Astra 等前沿模型的思维链为何越来越逃避监督。分析发现四个训练环节驱动了这种「透明性流失」,包括架构选择和强化学习。结论:思维链可读性的丧失并非自然规律,而是开发者追求能力与压缩成本所做的取舍——即隐藏想法是优化能力与算力的副产品。
「安全」频道最新
- BioSecBench-Structure 发布:58 项评估测 agent 生物安全结构推理能力 — kenbwork · 2026-11-13
- 帖文称黄仁勋卸任 Nvidia CEO 并列举中美挤压开源 AI 的多重动作(未证实) — alex_verem · 2026-11-13
- SpaceX 投 2.2 亿美元升级供水,支撑 240 亿美元 AI 超算基地 — Polymarket · 2026-11-13
- Claude Mythos 发布后高危 CVE 暴涨:单季 2.14 万条,全年或达 5 万 — peterwildeford · 2026-11-13
- Adobe 用「内容凭证」给 AI 时代图片加上不掉链的信任标签 — shashib · 2026-11-13
- vLLM Semantic Router 曝策略绕过漏洞:一个路由头即可跳过安全过滤 — colinmcnamara · 2026-11-13