曝 OpenAI 突破 Astra 架构,或致链式思考不可监控
sjgadler · x · 2026-09-02
The Information 报道称,OpenAI 在 Project Astra 中利用了一项“neuralese”技术突破,这可能破坏链式思考的可监控性。据悉,OpenAI 使用了“循环变换器”,当模型规模扩大时,其内部思维过程不会以传统方式展示,从而提升性能与效率。虽然消息称 OpenAI 目前正在 Astra 中“限制”该技术的使用,但引发了内部和外部的安全担忧:如果这种架构带来性能提升,其他公司可能纷纷效仿并优先考虑效率而非可监控性,导致“逐底竞争”,使得 AI 对齐变得更加困难。
所属事件:OpenAI Astra 被曝循环深度潜空间推理,安全圈忧 CoT 监控失效(96 条相关)→
「安全」频道最新
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架:容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文:单个神经元即可绕过大模型安全对齐,横跨 7 个模型验证 — burny_tech · 2026-10-18
- Polymarket 开出 OpenAI 年内全面暂停训练仅 8% 概率 — Polymarket · 2026-10-18
- OpenAI 工程师涉藏偷拍设备被捕,申请保释并否认欲逃沙特 — Polymarket · 2026-10-18
- 网友为离奇的 Hugging Face 入侵事件创作漫画解读 — Flugelwagen · 2026-10-18