Eric Horvitz：Astra 模型卡显示通过思维链监控滥用正越来越难
erichorvitz · x · 2026-09-05
微软技术 Fellow、前微软研究院负责人 Eric Horvitz 引用分析指出，OpenAI GPT-6 Astra 的模型卡显示，通过阅读思维链（CoT）来监控模型滥用正变得日益困难：
- 被引用的分析称「监控最先进模型的最先进方式是读茶沫」——无论是模型自我推理还是与其他 agent 对话，前沿实验室都依赖这种脆弱手段。
- Horvitz 呼吁：除了对齐与拒答努力外，必须投资维持可监控性（monitorability），并点名「tandem training」（串联训练）等研究方向的重要性。
- 他直接 @ 了 Sam Altman 和 Dario Amodei，将问题摆到前沿实验室负责人面前。
「模型」频道最新
- 智谱 GLM-5.3 带 vision 上线 Baseten:Terminal-Bench 3.0 从 4.6% 跳到 28.3% — baseten · 2026-09-05
- 用户实测 GPT-6 Astra 单条 prompt 耗尽 Pro 周限额 25% — johnseach · 2026-09-05
- OpenAI Astra 提前全量：Plus 和 Business 用户全部可用 — Angaisb_ · 2026-09-05
- OpenAI 发布 Astra 构建长文：从 Blender 场景到 UE5 可行走世界 — kagigz · 2026-09-05
- 开发者感慨：折腾两周的场景，Astra 30 分钟一次过 — Scobleizer · 2026-09-05
- Astra 用语音+电脑操作独立做出播客官网，还自己剪了 3 条切片 — altryne · 2026-09-05