Reddit 用户盘点 10 月本地模型：单卡百万 token Agent、6GB 长上下文Coder
vramkickedin · reddit · 2026-11-02
Reddit 用户 vramkickedin 整理了 2026 年 10 月容易被错过的本地/开源 AI 模型与项目清单，共数十个，按 LLM 与多模态两类汇总。要点包括：
LLM 侧
- Ornith-1.5-122B：单卡即可处理百万 token 的 Agent 任务
- Raon-1-mini-preview（KRAFTON）：单张 RTX 5090 跑韩语 Agent 模型
- Flint（RecursiveSI）：MoE 编码 Agent，单卡可调查仓库并修 bug
- Hy-Memory-30B-A3B（腾讯）：3B 激活参数写持久化 Agent 记忆
- LFM2.5-24B-A2B（LiquidAI）：2B 激活参数的端侧 Agent 推理
- GLM-5.3 无审查 EXL3 3.0bpw 量化：753B MoE 压进 273GB
- deepseek-v4.1-flash-gguf（antirez）：Apple Silicon 跑 DeepSeek Flash
- Intern-S2-397B：扩展科学推理与 Agent 能力；LingBot-World 2.0 Realtime：16 FPS 实时世界模型
多模态侧
- MiniMax-M3.1-Flash：1M token 上下文的多模态 Agent 模型
整体看点：小激活参数 MoE、单卡可跑的 Agent/长上下文模型、以及无审查量化版是本月本地社区的活跃方向。
所属事件:Reddit 用户盘点 10 月本地开源 AI：28 个新模型可单卡跑百万 token Agent(2 条相关)→
「Infra」频道最新
- theo 称 T3 Code 吞吐量两倍于整个 OpenAI,被指混淆了 token 路由 — scaling01 · 2026-11-02
- GitHub Actions 按分钟向上取整计费,短任务合并可省大量 CI 费用 — DanielLockyer · 2026-11-02
- UBS 曝 Musk Terafab 重构晶圆厂:晶圆仅 25% 时间在加工 — BenBajarin · 2026-11-02
- Unsloth 发布 DeepSeek-V4.1-Flash GGUF，1-bit 版领先其他量化超 10% — solyarisoftware · 2026-11-02
- 马斯克：未来超级智能算力将几乎 100% 部署在太空 — elonmusk · 2026-11-02
- 高通展示首代 HBC 芯片：带宽 18 倍于 LPDDR5X，能效超 HBM4 五倍 — ryanshrout · 2026-11-02