探讨能否让 MoE 路由预测未来 5-10 个 token
Hot_Example_4456 · reddit · 2026-08-27
Reddit 用户提出技术疑问:能否让混合专家模型的路由器预测未来 5-10 个 token 所需的专家,从而实现从 RAM 到 VRAM 的专家缓存加速?或者是否可以训练一个小型神经网络来进行这种预测。
「研究」频道最新
- Anima Anandkumar 入选 TIME 百大 AI 人物,公司正式亮相 — AnimaAnandkumar · 2026-08-27
- 仿生眼球策略:单像素查询省算力 — yacineMTB · 2026-08-27
- 视觉模型让细胞核在噪音中显形,Denoising 分割提升至 0.8 — bravo_abad · 2026-08-27
- 昆士兰大学研发赛博蟑螂,配备相机与微型注射器 — ChuckDBrooks · 2026-08-27
- Meta 开源 SuperDex:接触优先的灵巧操作物理仿真全家桶 — lukas_m_ziegler · 2026-08-27
- Cohere 开启「从零构建世界模型」技术系列 — Cohere_Labs · 2026-08-27