Notion AI 负责人：Agent 大量 GPU 推理该交给 CPU 代码执行
threepointone · x · 2026-10-17
Notion AI 负责人 Sarah Sachs 提出一个反主流观点：如今很多跑在 GPU 上的工作其实应该放到 CPU 上用代码执行来完成。
她的核心论据：代码执行带来确定性与可观测性，而让 LLM 每次都重新发明流程既费 token 又慢，还无法观测。给 agent 一个本地文件系统来存放中间思考、写短 Python 脚本，是 edit 和 search 之外内部 agent 最重要的工具之一。
所属事件:Notion AI 负责人：Agent 推理工作应从 GPU 挪回 CPU(2 条相关)→
「编程与Agent」频道最新
- 自建笔记 AI 问答：语义检索搞不定日期与成员关系查询 — bzarnal · 2026-10-17
- 14B 裁判不比 8B 强：一句提示词修改让评分从 3/14 升到 10/14 — Lost-Masterpiece2400 · 2026-10-17
- 10 个开源仓库教你把小模型训练成自己的 Agent:Unsloth、verl 等一览 — victor_explore · 2026-10-17
- 机器人工程师叫板编码 agent：视觉运动控制系统你们做不了 — AlexTensor · 2026-10-17
- 开发者用 Google Argon 脚本为游戏生成真实 3D 资产与程序化纹理 — Promptmethus · 2026-10-17
- 无 LLM Agent 的 Jev 诊断管线：105 次故障诊断通过 76.2%，中位耗时 14.6 秒 — tianyin_xu · 2026-10-17