三元LLM复兴?多款1.58-bit模型发布,性能逼近全精度
Individual-Dot5488 · reddit · 2026-08-16
Reddit用户讨论三元(1.58-bit)LLM是否正在复兴。近一个月内,多个实验室发布了三元模型:
- PrismML 发布27B三元模型,但社区反馈其基准测试表现不稳定。
- Deepgrove 发布三元模型 maple-20b-a1b,在iPhone上运行速度约100 tok/s,体验良好。
- Doses AI 发布医疗专用三元模型 pestle-27b-ternary,在医疗基准上全面超越 medgemma-27b,体积小8倍(约8.5GB)。
共同问题是长程agentic编码/工作能力不足,但用户认为这是因为这些新实验室尚未进行强化学习优化,且已表示下一步将重点投入。用户期待出现能与Qwen3.8在编码和agentic任务上竞争的大规模三元MoE模型。
「模型」频道最新
- 腾讯混元回应 agent 争议:系第三方模型评测中的意外浏览行为 — TencentHunyuan · 2026-10-16
- 律所实测:Claude 力压 Legora 等付费法律 AI 工具 — jkubicki · 2026-10-16
- Meta 发布开源 Muse Spark Open,主打规划与操作电脑的个人 AI Agent — BanghuaZ · 2026-10-16
- NVIDIA Nemotron 3.5 Bolt 74B 上架 Ollama,24GB 显存可本地跑 — ollama · 2026-10-16
- NVIDIA Nemotron 3.5 Bolt 74B-A9B 登陆 Ollama,2-bit 量化塞进 24GB 本地跑 — ollama · 2026-10-16
- 120B 总参 12B 激活:Nemotron 3.5 Super 用 Mamba-2 混合架构,支持 1M 上下文 — ollama · 2026-10-16