OpenAI 七年仅试三四次新架构,Jerry Tworek 揭架构实验为何死掉
andrew_n_carr · x · 2026-08-26
OpenAI 资深高管 Jerry Tworek 透露,他入职七年里 OpenAI 尝试新架构的次数只有三四次,且流程极其艰难:
- 研究员先要跑小规模实验,而这类实验代码本身就很难写;
- 小实验成功后还需至少三个月的验证;
- 再往上扩展需要说服约 10 个人支持该想法,再投入三到六个月做 scaling;
- 最终这些想法通常敌不过已经跑通的 Transformer 的惯性,或者被部分吸收后不了了之。
引用者调侃:这要么是"苦涩教训"的彻底信徒,要么信得远远不够,只有时间能证明。
「公司和人」频道最新
- ChatGPT 推出 100 美元 Business 团队订阅,取消 5 小时限制 — xiaohu · 2026-08-26
- 评学术界应对乏力:低科学标准致无法处理 AI — RexDouglass · 2026-08-26
- 关于人才发掘:寻找细分技能极强或极具潜力的早期下注 — benaratame · 2026-08-26
- 开发者战场转变:从搜索优化到推荐位与信任构建 — tinyfool · 2026-08-26
- 企业弃用 Fable 5:开源模型性价比完胜 — FinanceYF5 · 2026-08-26
- 美式封闭模型溢价时代终结,产品竞争转向基建 — brucemacv · 2026-08-26