Inference AutoTune 发布
Scobleizer · x · 2026-07-12
【转发内容】发布 **Inference AutoTune**： - 可将任意前沿模型蒸馏成 **1–30B 参数**的任务专用 SLM - 只需 **25 行代码** - 会自动路由请求，号称可把**成本和延迟降低 90% 以上** - 训练时间约 **2 小时**、成本 **不到 250 美元** - 生成的权重归用户所有 目前已开放 **private beta**。
Scobleizer · x · 2026-07-12
【转发内容】发布 **Inference AutoTune**： - 可将任意前沿模型蒸馏成 **1–30B 参数**的任务专用 SLM - 只需 **25 行代码** - 会自动路由请求，号称可把**成本和延迟降低 90% 以上** - 训练时间约 **2 小时**、成本 **不到 250 美元** - 生成的权重归用户所有 目前已开放 **private beta**。