爆料质疑 OpenAI 新模型靠 looping 架构拉高推理深度,可监控性存疑
scaling01 · x · 2026-11-18
安全研究者 Nathan Calvin 质疑 OpenAI 下一代模型 6.2 Astra 为何能在不依赖 chain-of-thought 的情况下完成远超上代 5.2 fable 的串行推理步骤,怀疑其大幅转向 looping transformer 架构——而这类架构会损害可监控性(monitorability)。他还指出一个蹊跷之处:OpenAI 合作的新第三方评测机构似乎都没有把这类架构的可监控性评估纳入范围。
账号 scaling01 转发并加码推测:「这趟船已经开了」,中国团队恐怕已经在训练 looping 模型;他不意外到 2027 年底串行推理深度会提升 10-100 倍。讨论指向一个行业隐忧:如果头部厂商转向难以监控的架构,可能引发跟随效应。
「漫话AGI」频道最新
- 用 Opus 5.5 审计 15 万篇天体物理论文,揪出近千处重大错误 — zakkohane · 2026-11-18
- 观点:若自主 AI 可持有资本,人类将失去经济最终受益人地位 — PierceLilholt · 2026-11-18
- alth0u:模型能力远超用户需求,存在巨大『能力-实用』落差 — yacineMTB · 2026-11-18
- Ada Palmer 播客:假如马基雅维利穿越到今天会怎么看世界 — Ben_Reinhardt · 2026-11-18
- lateinteraction 质疑:AI 经济是否在用多余步骤重造现有经济 — lateinteraction · 2026-11-18
- 对齐研究员 davidad:人类灭绝概率从 70% 降至 5-8% — repligate · 2026-11-18