transformers 将标准化支持决策模型,serve 文档已上线
LysandreJik · x · 2026-10-12
Lysandre 决策模型线程收尾帖。
- 该方案与批处理天然契合:路由、打分、是/否判断等大量决策可合并到单次前向传播中批处理。
- 同样适用于 VLM(视觉语言模型),microducks demo 正是基于此实现。
- 可查阅 /v1/systemone 文档了解 transformers serve CLI;感谢 @marcsun 的贡献,@artzucker 正在为 transformers 带来决策模型的标准化支持。
所属事件:Transformers 新端点让 250 个模型秒变决策模型(6 条相关)→
「编程与Agent」频道最新
- Claude 经 Blender MCP 自动建模绑骨动画，六步教程 — sidahuj · 2026-10-12
- macOS 应用 Diorama:每个 agent 独占 git worktree,卡住就敲锣求救 — davidfromkansas · 2026-10-12
- 用 Haiku 跨片段追踪家里摄像头中的人和动物 — indragie · 2026-10-12
- 猫咪监控系统补细节:先用 Ring 自带 AI 标记,再每秒抽帧喂模型 — indragie · 2026-10-12
- 用 Opus 5.5 抓包三个宠物 App,给猫做了份逐小时行为日报 — indragie · 2026-10-12
- agent 干活越来越多却看不懂在干嘛?Diorama 按抽象层拆解 agent 工作 — davidfromkansas · 2026-10-12