OpenAI 新架构隐藏思维链，引发安全担忧
sjgadler · x · 2026-09-02
据报道，OpenAI 正在一种名为「循环深度」的新推理架构，该方法可提升性能和降低成本，但会模糊模型的思维过程，使其难以被监控。多位顶尖 AI 研究员对此表示担忧，认为这破坏了可监控思维链这一脆弱的安全机会，可能导致 AI 对齐工作更加困难，并引发军备竞赛。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「Infra」频道最新
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18
- DFB 激光器耦合薄膜铌酸锂芯片：最高 170mW、阈值仅 40-45mA — jwt0625 · 2026-10-18
- 5070 Ti 外挂 3070 混搭跑 Qwen 35B 达 82 tok/s — hereforcheesee · 2026-10-18
- 中国在建/规划功率半导体晶圆厂达 69 座,遍布 58 家厂商 — zephyr_z9 · 2026-10-18
- 研究测算：AI 数据中心每年需 3.5 万亿美元收入才能撑住 — TheseFact · 2026-10-18
- SGLang Summit 赞助商一周从 11 家增至 36 家,嘉宾含 Lilian Weng — BanghuaZ · 2026-10-18