Cloudflare 演讲复盘:押注小模型落空转向巨型 LLM,边缘计算价值回归
michellechen · x · 2026-11-13
AI Engineer Code Summit 上,Cloudflare 的 Michelle Chen 分享了公司 AI 押注的复盘(转引自 Steve Derico 的要点整理):
- 2023 年押错方向:当年判断模型会变小,结果 7B 反而长成万亿参数模型,公司因此转向服务巨型 LLM
- 小快模型让网络延迟重新重要:System 1 类模型一次前向传播即可完成,延迟重新成为瓶颈,边缘计算再次占优
- 「我们不是错了,只是太早」:她的核心观点是前瞻押注看起来像犯错,关键是保持准备、机会来时快速行动
- 配图展示了一个跑在 Durable Object 上的 Pi(代码审查 agent)案例:「System One first, LLM last」架构,先用小模型选工具、并行调 9 个工具,LLM 调用 6 次、3.9 万 token,耗时 8.1 秒、成本仅 $0.0064,并准确识别出 backoff 超过 30s 上限的 bug
所属事件:Cloudflare 复盘 AI 押注:自训 Clef、Clairic 补齐 neolab 拼图(5 条相关)→
「编程与Agent」频道最新
- Sergey Karayev 晒 Superconductor 界面:一个工单可调多家模型协力 — sergeykarayev · 2026-11-13
- SparseRead 让 Agent 先筛再读:省 92.9% Token、提速 89% — aigclink · 2026-11-13
- 独立开发者用 Claude 一月做出 AI 设计工具 Rivermark,已用于接单副业 — JannVanDam · 2026-11-13
- Claude Code 扩展疑遭入侵,Coding Agent 被指是重大安全风险 — alvelda · 2026-11-13
- AI.engineer 创始人:2026 软件工业革命后,2027 该造「文艺复兴」 — TheTuringPost · 2026-11-13
- Thinking Machines Inkling 2 Small 上架 Ollama:594B MoE、1M 上下文 — ollama · 2026-11-13