弃用最聪明模型编程:单任务成本差近 20 倍、额度不再见底
ievkz · reddit · 2026-09-18
一位程序员分享放弃最强模型后的发现:按「Cost per Task」(给定一个表述良好的任务,测模型完成所需 token 成本)指标,GPT-5.6 Luna (max) 登顶,单任务 $0.18;最聪明的 GPT-6 Astra (max)(AAI 智力指数 53,Luna 仅 38)则要 $3.26,相差近 20 倍。改用最便宜的 Luna 后,他在 20 美元/月的套餐上不再撞 5 小时限额与周限额,Codex 也不再反复绕圈。他的结论:对懂行的人,最便宜的前沿模型已经够聪明,「比谁更聪明」的竞赛接近尾声。
下一个瓶颈是速度:主流模型在 DeepInfra/OpenRouter 上平均 25-50 token/s,agent 模式下 Luna 完成一个任务要 5-15 分钟;而 DeepSeek-V4.1-Flash 走官方 API 可达 300 token/s,难任务 5 分钟搞定(指数还比 Luna 高 2 分)。他认为 agentic AI 的下一阶段竞速是速度,目前中国模型领先,而 OpenAI 的未来数据中心或把速度推到数千 token/s——分配任务后 10-30 秒出结果。他还类比上下文窗口军备竞赛:从 65k 涨到 1M 后已无意义,正是上下文增长催生了编码 agent。
所属事件:程序员弃用最贵模型实测:单任务成本差近 20 倍(2 条相关)→
「编程与Agent」频道最新
- 「evals 就是模糊的单元测试」:AI Engineer 大会 eval 演讲获同行推荐 — TejasKumar_ · 2026-11-04
- 文档抽取过了 POC 之后怎么落地?Reddit 求真实生产管线经验 — Mission-Leave-6551 · 2026-11-04
- LLM-as-judge 该怎么报置信度?开发者拒绝 0-100 分的三条理由 — jokiruiz · 2026-11-04
- Claude Code 做 CAD:开源 SOMA 用户破千,9 分钟设计书架出施工图 — Pr8tham · 2026-11-04
- 周处理百万条消息,AI agent 生产环境降本 37% 的 13 条实操 — AccBalanced · 2026-11-04
- 编码工具 rex 每两小时弹一次更新,作者感叹像 Cursor 早期节奏 — sumitdotml · 2026-11-04