QLLM称实现O(1)推理
ExtremeKangaroo5437 · reddit · 2026-07-09
作者介绍自己和团队提出了一种名为 QLLM 的新架构，强调它不使用 transformer 或 mamba，并声称具备 O(1) 推理、无需 KV cache 等特性。 帖子还提到该方向先形成理论、再做出可训练的实践版本，随后与伯克利和印第安纳大学的研究者合作发表了论文，并最终做出了一个 100M 参数规模的模型。
ExtremeKangaroo5437 · reddit · 2026-07-09
作者介绍自己和团队提出了一种名为 QLLM 的新架构，强调它不使用 transformer 或 mamba，并声称具备 O(1) 推理、无需 KV cache 等特性。 帖子还提到该方向先形成理论、再做出可训练的实践版本，随后与伯克利和印第安纳大学的研究者合作发表了论文，并最终做出了一个 100M 参数规模的模型。