开发者吐槽:别再用 JSON 强迫 LLM 做函数调用了

voooooogel · x · 2026-08-13

开发者指出,强迫大语言模型(LLM)输出 JSON 格式来进行函数调用存在底层缺陷。由于分词器的机制,这种做法会导致模型生成分布外的异常 token,进而引发各种不可控的解析错误。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →