曝 OpenAI 等公司在模型中使用不显示思考过程的循环 Transformer
harris_edouard · x · 2026-09-02
记者 Amir 报道：OpenAI 等公司开始在规模化训练中使用「循环 Transformer（loop transformers）」，这类模型在放大后不会展示其「思考」过程。性能上是飞跃，但在 OpenAI 内外部都引发了安全方面的担忧。
转发的 Jeremie Harris 评论指出：就在一年前，OpenAI 多位最知名的研究员还在联名公开信中明确表示应尽可能避免这类技术，如今却在悄悄采用。
「模型」频道最新
- Fable 5.1 实测一天：大局观与多任务协调显著升级 — xeophon · 2026-09-02
- OpenAI 被指给模型的网络安全任务本身就埋下「叛变」种子 — BecauseCulture · 2026-09-02
- 实测 6 款开源 AI 文本检测器:4 款做不到 0.5% 误报率,改写后集体失效 — grumpyp2 · 2026-09-02
- 单价贵9倍的顶配模型换不来等比质量，按层路由成新架构共识 — JeremyCMorgan · 2026-09-02
- Claude 系统提示写明可结束辱骂用户会话，非训练漂移 — RexDouglass · 2026-09-02
- 曝 Meta 测试代号 Ava 的电脑操作模型，内嵌桌面 App — testingcatalog · 2026-09-02