Transformer 层冗余带来太多好处,研究者称值得重视
A_K_Nain · x · 2026-09-11
一句话观点帖:Transformer 各层存在大量冗余,但这种冗余带来的收益多到无法忽视,暗示深层模型的容量冗余本身可能是有价值的设计。
「研究」频道最新
- Real-SWE 基准用真实企业私有代码库实测编码 Agent,结果出人意料 — daveholtz · 2026-09-11
- Jessica Hullman:公开评审乱象或倒逼学术会议改进政策 — JessicaHullman · 2026-09-11
- 梳理 47.6 万字模型卡,Free Systems 做 28 张前沿模型对比卡曝光证据缺口 — soumitrashukla9 · 2026-09-11
- 把模型卡压成“宝可梦卡”大小,Free Systems 征求反馈还送实体卡包 — soumitrashukla9 · 2026-09-11
- 55 道“胡说八道”问题难倒主流 LLM,Bullshit Benchmark 揭模型盲从通病 — luisdans · 2026-09-11
- OSU 教授 Hai-Jun Su 融合 VLM 与机械设计,ASME 会议连获三项大奖 — AndrewDai · 2026-09-11