OpenAI 报告细节:预训练最早显现 AI 加速,「研究品味」成瓶颈
ronbodkin · x · 2026-11-19
Ron Bodkin 对 OpenAI 最新研究加速报告的解读:AI 对研究的实质性贡献最早出现在预训练领域。
- 调查方法:在 pretraining、posttraining、safety monitoring 三个方向,请各 1-4 名对 GPT-6 Astra 和 GPT-6.2 Astra 发布有关键贡献的研究员,提名 1-3 个最重要的想法并说明其来源及 AI 参与程度
- 结果:posttraining 与 safety monitoring 的研究员表示所有想法均由人提出,模型只帮助实现;预训练方向同样把 GPT-6 Astra 的想法完全归于人
- 关键论点:发展和甄别概念性研究想法的能力(research taste)可能是递归自我改进(RSI)的瓶颈
- 作者还链接了自己关于 AI Takeoff 复杂任务与节奏的文章,讨论 METR 报告后关于快速 takeoff 的争论:难以监督的任务上 AI 进展可能滞后于易监督任务
所属事件:OpenAI 发布研究加速报告:Agent 用量指数级上升并呼吁强制披露 RSI(25 条相关)→
「漫话AGI」频道最新
- OpenRouter 数据:开源权重模型处理token量占比已达81% — markjeffrey · 2026-11-19
- a16z 提出「B2A 经济」:Agent 正取代人类成为互联网主要用户与买家 — FinanceYF5 · 2026-11-19
- 桥水基金:按未来一年内三分之二概率遭遇经济破坏性网络攻击管理资金 — GaryMarcus · 2026-11-19
- Notion 的 AI 机会不在助手,而在成为 agent 的上下文层 — ivanhzhao · 2026-11-19
- OpenAI 一日发三篇安全研究,再掀与 Anthropic 透明度之争 — daveholtz · 2026-11-19
- 「Moloch 逼我的」不行:选择背叛同类就是你人品问题 — mimi10v3 · 2026-11-19