ASRN 新架构：线性内存长程复制，256k 长文仅 69ms
Mean-Disaster8380 · reddit · 2026-10-25
Reddit 用户发布 ASRN（Adaptive Sparse Recurrence Network）语言模型层，主打线性内存下的长程精确复制：
- 每个 token 通过学习到的符号哈希桶，只注意力保留最近的 C 个邻居，并在匹配后复制后续 token，实现精确检索历史片段
- 引入学习型「自有时钟」Bt 控制遗忘率，并用 Hawkes 式自激强度 + 重复连击门控决定何时复制
- 作者附基准图：在单张 A100 上，256k token 往返耗时 ASRN 1.0 为 69ms，优于 Mamba-2 块（174ms）、RWKV-7（519ms）和 FlashAttention-2（1486ms）；约 18k token 以下注意力仍更快
- 实验规模较小（≤50M 参数），论文 DOI 与 GitHub 代码已开源
「研究」频道最新
- WildAWM 开源合成计算机环境，Qwen3.6 训练后 8 项基准平均涨 10.6 分 — HuaxiuYaoML · 2026-10-25
- 用 AI 生成物理论:想法大多已在近两月被别人做掉 — burny_tech · 2026-10-25
- Stieltjes 积分竟用于诊断 AI：建模 AUC 随训练样本数变化 — PTenigma · 2026-10-25
- supermimic 复现难题：开源实现普遍在 Bones Seed 处发散 — andrew_n_carr · 2026-10-25
- 权重压到 -1/0/+1:语音模型从 2.4GB 瘦身到 181MB,WER 仅升 0.4 个点 — lmoroney · 2026-10-25
- 「AI 审稿已超人类」研究遭质疑：评测主要是 GPT 在评 Claude — JessicaHullman · 2026-10-25