争议:后训练算力已超 75%,用预训练 perplexity 定安全上限站不住
stochasticchasm · x · 2026-11-23
一条带「HOPE 注射器」梗图的推文引发讨论。作者先肯定 OpenAI 公开预训练进展信息、欢迎透明度,但提出核心反驳:在后训练算力可能已占模型总 FLOPS 75% 以上甚至更多的当下,基于预训练 perplexity 来论证「共同上限」(common limits)是误导性的。这直接针对 OpenAI 研究员 merettm 的《Perplexity and Intelligence》一文——该文主张用 perplexity 等指标划定共同进度上限,超出部分须以对 AI 行为的理解能力为门槛。作者末尾以「爱预训练、期待 100T 参数模型拯救我们」的调侃收尾。
「漫话AGI」频道最新
- LeCun 断言自回归 LLM 有根本缺陷,giffmana 回怼:只是补丁 — giffmana · 2026-11-23
- Uber 四个月烧光年度 AI 预算,体验却没变好 — yaroslavvb · 2026-11-23
- FDA 首次批准人体逆转衰老基因疗法临床试验 — Dr_Singularity · 2026-11-23
- Gary Marcus 回击 LLM 炒作质疑:批评过度宣传是工程严谨 — GaryMarcus · 2026-11-23
- AI 安全圈内讧:学者批评公开点名爆料者是在烧毁公共资源 — sjgadler · 2026-11-23
- AI 证明是另一种暴力:够快够全就不必发明新数学 — moultano · 2026-11-23