Toloka Train 推出微调与压缩工具,降本达 37 倍
MParakhin · x · 2026-08-26
Toloka 发布 Toloka Train 平台,提供 Fine-tuning 和 Prompt Gisting 两种工具,旨在降低 AI 请求成本。其 Fine-tuning 功能支持在冻结的 Qwen3 基座上训练 LoRA 适配器,替代昂贵的前沿模型。
核心案例:
- 场景: CV 解析流水线。
- 效果: 推理成本降低 12-37 倍(从每千份 CV $10-$30 降至约 $0.80);F1 分数从 0.85 提升至 0.94(优于最新前沿模型的 0.93)。
- 流程: 从数据整理到部署端点仅需数天。
该方案将可变的按 Token 付费转变为固定的算力成本,实现大于 100% 的性价比提升。
「Infra」频道最新
- Cerebras 放话:多代晶圆级路线图保住最快推理王座 — Sethwinterroth · 2026-08-26
- NVIDIA 推出 Groq 3 LPX 加速 AI Agent — badumtsssst · 2026-08-26
- 数据中心耗水量少于降雨量?专家质疑干旱地区适用性 — tdietterich · 2026-08-26
- 博主批评苹果软件栈落后,称 M7 难跑下一代 Agent — teortaxesTex · 2026-08-26
- DFlash2 推理加速实测:4080 16GB 跑 Qwen3.8-27B 速至 86.7 tok/s — Apprehensive_Bar6609 · 2026-08-26
- 微调谬误:模型饱和后成本比质量更重要 — rhythmrg · 2026-08-26