中国电信开源 Xing4.0-29B-A4B:4-bit 量化后单张 3090 可跑

量子位 · wechat · 2026-09-20

中国电信开源全栈国产化轻量代码智能体模型 Xing4.0-29B-A4B:MoE 架构 290 亿总参数、每次激活约 40 亿,4-bit 量化后显存占用约 15GB,一张 RTX 3090 即可本地运行,已冲上 HuggingFace 模型趋势榜第四。

能力与落地:

技术要点:MLA 注意力压缩 KV Cache、MTP 多 Token 预测、DeepSeek 同款 mHC 超连接;数十万亿词元数据含行为轨迹,后训练用多专家 RL+MOPD 融合;完全基于昇腾 910C + MindSpore 训练,训练吞吐较开箱提升约 96%。

模型已在 GitHub、HuggingFace、魔搭等平台开源,并提供算网一体机、智算专线等多种部署路径。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →