Rune 推出「System One」决策模型:26B 参数 4B 激活,只打分不生成
sophiamyang · x · 2026-10-30
Rune 在 Fireworks 上线了 26B-A4B「System One 决策模型」:26.5B 参数的 MoE,每 token 仅激活 4B。它不做推理、不生成文本,只读一遍文档后在单次前向中回答最多 256 个类型化问题(选择题、真/假、分级量表),每个答案给出校准概率。
- 中位延迟低于 150ms(服务端实测),262K 上下文,仅文本
- 输出 token 恒为零,只收输入费用:$0.042/1M 输入,缓存 $0.008,输出 $0
- 支持 serverless 或按需部署,已在 Fireworks 上线,GGUF 权重也已放出 Hugging Face
这类模型适合分类、筛选、批量判断等场景,定位与生成式模型互补。
「Infra」频道最新
- 2020 年老 GPU 租金仍在上涨,用数据打脸「三年淘汰论」 — JFPuget · 2026-10-30
- Intel 电话会十大要点:服务器 CPU 市场五年看涨至 2000 亿美元 — ryanshrout · 2026-10-30
- 开发者写 FastAPI 代理网关,给本地 LLM 做鉴权与转发 — Frizzy-MacDrizzle · 2026-10-30
- 传 Nvidia 拟为 Nscale 460MW 数据中心兜底超 50 亿美元,锁定 Anthropic 450 亿合同 — ns123abc · 2026-10-30
- Agent 写代码一天吐 35GB JSON,开发者用 btrfs zstd 压缩省 20 倍磁盘 — mgostIH · 2026-10-30
- Dell 预测 2030 年前 AI 数据中心新增 200GW,万亿美元机会 — Beth_Kindig · 2026-10-30