ggerganov 分享 inception 模式:推理超时自动注入想法逼模型行动
olcan · x · 2026-08-17
llama.cpp 作者 Georgi Gerganov 分享了一个在 agent 场景中非常实用的 inception 模式:当模型思考时间过长时,通过注入一条「想法」强制它采取行动。
具体做法是限制最大推理长度,例如:
--reasoning-budget 4096 \
--reasoning-budget-message "... I am thinking for too long -- let me gather more info about the task."
到达推理预算后,系统会注入这条消息打断思考,促使模型先去收集信息再继续。Gerganov 称这对处理「欠定义任务」特别有效——这类任务常让模型陷入无限推理。参数可按需调整。
「编程与Agent」频道最新
- 开源项目 bloub：用单个 SVG 形状复刻 x.ai 机器人头像动画 — iannuttall · 2026-08-17
- 开源项目 POLYBOT：统一编排多模型 Agent 的 UI 中间件 — RileyRalmuto · 2026-08-17
- olore：给AI编码agent装上文档包管理器，本地离线免幻觉 — tom_doerr · 2026-08-17
- 照片变抽象编辑海报的 Codex Skill 爆火，GitHub 已 2.8K Star — oran_ge · 2026-08-17
- 开源工具 Tote：集成多模型网页端与 CLI 终端 — Critical-Pea-8782 · 2026-08-17
- Riley Brown 曝光 AI 内容工厂:说话十分钟,80% 视频图表自动生成 — petergyang · 2026-08-17