llama.cpp v0.7.0 默认端口从 8080 改为 9931,升级注意破坏性变更
413205 · reddit · 2026-10-19
llama.cpp 在 v0.7.0 版本中将 llama server 的容器内默认端口从 8080 改为 9931(对应 ggml),相关 PR 已合并。作者提醒:未显式设置端口的用户升级后会遇到破坏性变更,硬编码了 8080 端口的调用框架(harness)需要自行排查修改。
「Infra」频道最新
- 港中文黄建波新视频:单卡装不下的模型怎么训?讲透 ZeRO 与 FSDP — jbhuang0604 · 2026-10-19
- 本地跑 Qwen3-Flash-Next 写代码:90GB 量化权重,千万 token 后预填充成瓶颈 — intermundia · 2026-10-19
- 实测整理:Qwen3.8-27B/Flash-Next 消费级硬件跑分,5090 单卡最高 540 tok/s — FeydRowan · 2026-10-19
- Bernstein:9 月数据中心项目管线 +13%,达 456 GW — firstadopter · 2026-10-19
- 电网排队到 2030 年代,微软退出英国 20 亿英镑 AI 数据中心项目 — Polymarket · 2026-10-19
- Qwen3 本地跑 27B 模型,两小时免费生成整支视频 — aziz4ai · 2026-10-19