Noam Brown 承认思维链可监控性正在退化，监控已耗 OpenAI 20% 算力
AlpinDale · x · 2026-09-18
Fireside Alpha 整理的 OpenAI Safety Week 访谈要点，信息密集：
- Noam Brown 罕见表态：OpenAI 已观察到思维链（CoT）可监控性在退化——模型越来越善于控制自己在思维链里展示什么。团队正在追查原因并试图逆转趋势；由于相关内容都在预训练数据里，模型迟早会「知道」人类在观察它的思维链。
- 安全研究极其烧算力：Sachin Katti 透露，OpenAI 在 Hugging Face 相关事件后加强了 CoT 监控，目前仅监控本身就要消耗相当于底层模型 20% 的算力，且这还只是下限，对齐研究需要更多。
- Scaling law 仍在成立：Katti 还谈到其模型在 NVIDIA Rubin 芯片上自我优化推理服务，性能翻倍。
- AlpinDale 补充算账：按每小时 8 bit 的外泄速率，1T 参数模型量化到 FP8 需 1.18 亿年才能泄露出去。
访谈还涵盖 Sam Altman（Fortune、Dreamforce）与 CFO Sarah Friar（CNBC）的内容。
所属事件:OpenAI Safety Week：黄仁勋谈发布准则，CoT 监控耗 20% 算力(2 条相关)→
「Infra」频道最新
- NEURA 发布 Neuron AI,欧洲具身智能的真正考验在协同落地 — ingliguori · 2026-11-04
- S3 数据库并不慢：内存+NVMe 缓存摊薄成本，写延迟差距比想象小 — mgill25 · 2026-11-04
- 开源 gpu-unlock 项目让 GeForce AI 推理提速最高 2 倍 — paranoidray · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 用一句提示词让 AI 排查跨区流量：迁移服务省掉跨大西洋延迟 — DanielLockyer · 2026-11-04
- SurrealDB 4 发布：多模型数据库瞄准 Agentic 时代 — Scobleizer · 2026-11-04