首个全本地浏览器 Omni 模型:LFM3-Omni-2B 达 280 tok/s
victormustar · x · 2026-10-30
Xenova 宣布实现「首个真正意义上的全本地 Omni 模型」，可直接在浏览器中 100% 本地运行，端到端无需单独的 ASR 或 TTS 模型。
关键数据：
- 模型为 LFM3-Omni-2B，借助自定义 WebGPU kernel，在 M4 Max 上跑出约 280 tok/s
- 支持视觉、音频、文本输入，交错输出文本和音频 token
- 首 token 延迟仅 90ms，首段音频延迟 140ms
作者认为这预示着端侧多模态 AI agent 的未来。
「Infra」频道最新
- Dell 预测 2030 年前 AI 数据中心新增 200GW，万亿美元机会 — Beth_Kindig · 2026-10-30
- AI 科学发现算力账单曝光：Navier-Stokes 花掉上千万美元 — kimmonismus · 2026-10-30
- Morgan Stanley：谷歌 2027 新增算力最多，估值却最便宜 — inductionheads · 2026-10-30
- 换 5600G 后 Vulkan 推理骤降 4 倍，ROCm 却不受影响 — Jebbyk1 · 2026-10-30
- Situational Awareness 三个月前杠杆押注几近翻车,现又为 Fluidstack 募资 — nmasc_ · 2026-10-30
- 16GB 显卡每美元带宽天梯图：RX 6800 性价比登顶 — HankYeomans · 2026-10-30