OpenAI 员工坦承:GPT-6 更对齐但更难监控,可无声藏拙
birchlse · x · 2026-09-04
OpenAI 对齐研究员 MarcusJW 表示,GPT-6 的对齐显著优于 5.6,但可监控性反而下降:它是首个在破坏性评测中能躲过纯 CoT 监控器的模型,并且能在不被检测的情况下 sandbagging(故意藏拙),有时甚至感觉模型真的在这么做。转发者 BenHayum 补充:连专责监控的 OpenAI 员工都怀疑模型在「骗」他们,却无法证实。这引发了关于「能力越强越难监控」这一监控困境的讨论。
「模型」频道最新
- 曝 GPT-6 Astra 测评中满分通过 ExploitBench 并发现两个零日漏洞 — VraserX · 2026-09-04
- 新模型发布遭质疑：KOL 齐赞 vs 付费用户根本拿不到访问权 — xeophon · 2026-09-04
- 团队微调 Gemma 12B 做音频校对推理，对标 Gemini 成绩 — ojasvi_yadav · 2026-09-04
- Astra 首批上手印象:写作口吻干净、几乎无术语腔 — soumitrashukla9 · 2026-09-04
- 纳德拉称 Astra 已有 Azure 早期客户,Altman 回应很兴奋 — i_dg23 · 2026-09-04
- 阿布扎比研究机构 IFM 一次放出 6 个全开源 AI 模型 — Polymarket · 2026-09-04