推理优化内卷加剧:从业者要的已是最快最便宜的够用模型
bendee983 · x · 2026-10-31
bendee983 观察指出，大量从业者的关注点已从「最强模型」转向「快速、廉价地获得能解决自己问题的模型」。各家模型厂商（闭源和开源）都在压低 token 服务成本、提升 prefill 与 decode 速度：Anthropic 在其服务中报告的效率提升，以及 OpenCode、OpenRouter 等以创纪录低价提供所有开源权重模型，都是这一「竞底」竞争的体现。被引用的 thdxr 回应了「这么便宜是不是偷偷阉割了模型」的质疑：他们采用与 DeepSeek 相同的方式运行模型，并计划很快让第三方认证这一点，同时欢迎用户分享详细的不良体验以帮助修复问题。
「Infra」频道最新
- Altman 称个人电脑囤 RAM 很浪费，网友晒 64GB 跑 Hello World 吐槽 — SuB8u · 2026-10-31
- xAI 概念图:月球电磁质量投射器年发 1000+ TW AI 卫星算力 — XFreeze · 2026-10-31
- Running 500B+ Models Locally? Seeking Prefill/Decode Benchmarks — HankYeomans · 2026-10-31
- OpenCode 单机架供给 10T Token,多数创业公司算力需求远低于此 — JoshPurtell · 2026-10-31
- AI 竞争正变成基础设施竞赛：Blackwell 单 GPU 达 1.8TB/s NVLink — Olivier__OG · 2026-10-31
- Ternary Bonsai 2 在 ik_llama.cpp 全量跑通:原生 CUDA + CPU 加速 — Any_Bus9205 · 2026-10-31