OpenAI 新推理法因黑箱引发安全担忧
RazRazcle · x · 2026-09-02
OpenAI 的 Astra AI 采用了一种名为“循环深度”的新推理方法。虽然该技术有助于提升模型性能并控制成本，但研究人员对此表示担忧，认为其掩盖了模型的思考过程，导致监控变得更加困难。
所属事件:曝 OpenAI Astra 采用循环深度实现隐空间静默推理(29 条相关)→
「安全」频道最新
- OpenAI 新模型 Astra 被曝采用不透明推理架构 — thlarsen · 2026-09-02
- 研究警告：不应将中间 Token 视为推理轨迹 — AlexTensor · 2026-09-02
- 质疑 OpenAI 新架构：循环深度并非更难监控，只是变相加深 — max_paperclips · 2026-09-02
- OpenAI被指背叛CoT安全，专家忧引发恶性军备竞赛 — sjgadler · 2026-09-02
- Gary Marcus：移除脆弱的CoT脚手架是疯狂之举 — GaryMarcus · 2026-09-02
- OpenAI被曝采用不透明架构，性能提升引发安全担忧 — sjgadler · 2026-09-02