chatllm.cpp 支持 Intern-Decision:一次运行并行生成多个决策

foldl-li · reddit · 2026-10-18

开发者 foldl-li 为本地推理框架 chatllm.cpp 添加了对上海 AI Lab InternLM 团队 Intern-Decision 模型系列的支持,目前仅支持文本。Intern-Decision 的亮点在于推理方式:与 H2O-Lightning 等一次运行生成一个答案不同,它在一次运行中用扩散方式为所有决策位置填入 "<decision>" 标记,从而更快地完成决策生成,且性能表现不错。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →