长文推理消耗惊人:2.2万 Token 仅生成 3千 字
generativist · x · 2026-08-15
Simon Willison 分享了一次极长推理任务的实测数据。
关键数据:
- 总耗时:近 21 分钟。
- 消耗 Token:使用了 22,276 个推理 Token(Reasoning Tokens),仅生成了 3,223 个输出 Token。
这一数据展示了当前高阶模型在复杂推理任务上的巨大算力开销,推理过程中的“思考”成本远高于最终输出的成本。
「Infra」频道最新
- 网友求购二手 A100 显卡 — beffjezos · 2026-08-15
- AI 发展遇物理瓶颈:算力受限于土地与电力 — r0ck3t23 · 2026-08-15
- Oracle 新墨西哥 AI 数据中心输气管道延期至 2027 — Polymarket · 2026-08-15
- 开源 Core AI 模型库支持苹果设备本地运行 — amos_gyamfi · 2026-08-15
- 黄仁勋宣布与贝莱德等巨头合作,打造AI工厂基础设施新资产类别 — ___Mufasaa · 2026-08-15
- 研华推 AFE-A702 边缘设备,搭载 Thor 同步 8 路深度相机 — chrismatthieu · 2026-08-15