Kimi k3 被赞有真实架构创新,加入 residual attention
OwariDa · x · 2026-07-26
转发内容称,Kimi k3 不只是做了蒸馏,还在架构上塞进了真正有意思的创新,比如 attention on layer residuals。作者的观点是:相比只做能力包装,能把真实架构改进做出来并公开出来,对整个行业更有价值。
所属事件:Kimi K3 架构创新曝光,引发显存需求争议(5 条相关)→
「模型」频道最新
- AI Sextet 活动:6 模型 14 天完全免费,含 DeepSeek/Qwen/GLM — airesearch12 · 2026-09-11
- Anthropic 发布迄今最详尽威胁情报报告:无人机蜂群滥用案例曝光 — soumitrashukla9 · 2026-09-11
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11