llama.cpp 发布 v0.8.0 版本
ngxson · x · 2026-10-29
ggmlorg 官方宣布 llama.cpp 发布 v0.8.0 版本,具体更新内容见发布页。这是本地大模型推理生态最核心项目的又一个里程碑版本。
「Infra」频道最新
- 分析师激辩谷歌 TPU 外销规模:2028 年 1000 亿至 2500 亿美元分歧巨大 — Beth_Kindig · 2026-10-29
- Gemini 4 Carbon 单任务成本 $7.76,比 Opus 5.5 便宜 23% — ArtificialAnlys · 2026-10-29
- RTX 5080 美国零售价飙至近 2000 美元,两月涨 800 — chemist_slime · 2026-10-29
- Mac Studio M5 Ultra 512GB 版起售价高达 22299 美元 — Boomfrag · 2026-10-29
- 230 次实验实测:Agent 集群优化 LLM 推理的 8 条结论 — jiayq · 2026-10-29
- Together 按块 GPU 计价做后训练,并行 rollout 越多单价越低 — togethercompute · 2026-10-29