推理服务商自建 GPU 卖开源模型,价格比大平台低 60%
natolambert · x · 2026-11-22
推理服务商 Anomaly 宣布「戳破定价泡沫」:托管 DeepSeek Flash 与 GLM 5.3 等开源模型,价格比 Fireworks/Baseten 低 60%,同时吞吐量更高,全部运行在自建 GPU 上。Nat Lambert 评论称开源模型价格竞争是好事,但在 GPU 供应紧张的大环境下很难持续。
「Infra」频道最新
- 马斯克晒仅用半颗 AI4 芯片实现无游戏引擎实时 AI 视频生成 — jamesdouma · 2026-11-22
- Sentdex 想白嫖 150 张 H100,而 Shkreli 正出钱收购同款 — Sentdex · 2026-11-22
- ECB 查出 AI 行业 4.5 万亿美元隐性债务,较上年统计高 287% — Actual__Wizard · 2026-11-22
- 纯 Rust GGUF 引擎 RustingStrata 在 RTX 3060 上跑 Inkling 2 Mini,生成速度达 llama.cpp 3.5 倍 — Serious_Scarcity7818 · 2026-11-22
- Hugging Face 工程师 ngxson 发布博客:涵盖 llama.cpp OCR、AI 编程等文章 — ngxson · 2026-11-22
- 两台 DGX Spark 本地跑 321B 模型,819K 上下文缓存可跨重启 — AIFlow_ML · 2026-11-22