LLM 误读 API，迫使团队改接口
ezyang · x · 2026-07-13
作者分享了一个很典型的 LLM 设计坑：他们在新的 AC 抽象里原本写成 `remat.op(f, policy=...)`，想表达“反向传播时不要重算 f”。 但 Claude 和 ChatGPT 都把这个参数理解成“保存 f 的输出”，说明接口命名对模型来说非常容易歧义。最后团队只能修改 API 设计来规避误解。这个例子说明：给 LLM 设计工具接口时，语义清晰度本身就是关键工程问题。
ezyang · x · 2026-07-13
作者分享了一个很典型的 LLM 设计坑：他们在新的 AC 抽象里原本写成 `remat.op(f, policy=...)`，想表达“反向传播时不要重算 f”。 但 Claude 和 ChatGPT 都把这个参数理解成“保存 f 的输出”，说明接口命名对模型来说非常容易歧义。最后团队只能修改 API 设计来规避误解。这个例子说明：给 LLM 设计工具接口时，语义清晰度本身就是关键工程问题。