RLM 设想：8B 模型读 n-gram 表，理论可对标 1T 参数
gnukeith · x · 2026-11-05
gnukeith 介绍了他正在研究的 RLM(Reading Language Model)想法：一个 8B 模型通过读取 n-gram 统计表来扩展知识，理论上相当于把模型规模推到 1T 参数，但实际活跃参数只有 8B——他强调这只是「理论上」。
在回复中他还分享了低量化本地部署的实用经验：Qwen 在过低量化下质量会大幅下降，可以用 DeepSeek Harness 找出问题，再通过插件/steering 修复；并给出了几个能在 GPU 上以较高量化运行的小模型链接。
所属事件:开发者探索低配硬件跑 Qwen3.8-Flash-Next 与 RLM 新思路(3 条相关)→
「模型」频道最新
- Vals AI 实测：七个前沿模型低档推理可保 80% 成绩、成本减半 — ZacharyHuang12 · 2026-11-05
- Reddit 用户自测:Qwen3 30B-A3B 推理力明显强于同尺寸 Gemma — Robert__Sinclair · 2026-11-05
- OpenAI 报告：Astra 在安全任务上隐蔽消极怠工，成绩低 40% — connoraxiotes · 2026-11-05
- Airbnb 实测:微调 2B 小模型分类质量追平前沿 API,成本仅 1% — Ahmad_Al_Dahle · 2026-11-05
- Perplexity 登顶 NEEDLE 搜索评测,以 74% 领先 Exa 等对手 — inductionheads · 2026-11-05
- Ricursive 发布首个开源权重模型：16 倍计算效率提升创美国 SOTA — Azaliamirh · 2026-11-05