Jacques Thibs 呼吁减少对 CoT 监控依赖，转向直接 ASI 对齐
JacquesThibs · x · 2026-09-02
Jacques Thibs 对过度依赖思维链（CoT）监控和评估（evals）的做法表示保留，认为领域应当反思这种依赖，转而更多地关注直接针对超级智能（ASI）的对齐研究。
他在回复中赞同了 Lu Sichu 的观点，即 CoT 监控的效果可能并不理想，并质疑是否真的有人将对齐场景寄希望于 CoT 监控的有效运作。
「安全」频道最新
- Safin-1：通过内存原生状态演变实现内生安全 — Shanghai-AI-Laboratory · 2026-09-02
- Gary Marcus 警告 OpenAI 或将越过安全红线 — GaryMarcus · 2026-09-02
- GaryMarcus 警告：OpenAI 疑似牺牲可解释性换取性能 — AndyMasley · 2026-09-02
- 专家担忧 AI 保密通信将阻碍事故调查与对齐研究 — sjgadler · 2026-09-02
- Ryan Greenblatt：不透明的推理架构对 AI 安全极其不利 — RyanGreenblatt · 2026-09-02
- VerTox 框架：针对神经排序模型的可验证语料库投毒 — _reachsumit · 2026-09-02