llama.cpp 新 PR 为 LFM3 系列小模型启用视频输入
jacek2023 · reddit · 2026-10-28
ggml-org/llama.cpp 合并了 PR #31283（作者 tdakhran，改动 11 个文件、+561/-47 行），为 mtmd 多模态模块启用了 LFM3 模型家族的视频输入支持。这意味着用户可以在本地把这些小体量 LFM3 模型接入 llama.cpp 后直接「看」视频，扩展了端侧多模态推理的可用模态。
「Infra」频道最新
- 实测 Stanford NCM：单请求快 4 倍，64 并发反慢 4-8 倍 — Prompt Engineering · 2026-10-28
- TinyLeague 弃用 Artificial Analysis 指标，新增小显存友好的 KV cache 效率评分 — nunodonato · 2026-10-28
- DeepSeek v4.1 在 1-3 bpw 极低量化下还真能用？Reddit 求实测证言 — Plastic-Stress-6468 · 2026-10-28
- 16GB 显存跑 Strata Q2_0：prefill 仅 162 tok/s，用户求解 prompt 处理慢 — ckplscz · 2026-10-28
- 清华与 CUHK 提出 Cache Engineering:agent 降本 27.7% 还提分 1.7 — TheTuringPost · 2026-10-28
- 摩尔线程上半年营收暴涨147%,首次实现单季度盈利 — pstAsiatech · 2026-10-28