清昴智能发起昇腾 950DT 万卡级 Token 工厂,算力利用率从 40% 提至 80%
量子位 · wechat · 2026-11-20
中国日均 Token 调用量两年半增长 5000 倍,从 2024 年初的 1000 亿增至 2026 年 6 月约 500 万亿。TrendForce 预测 2026 年中国高端 AI 芯片市场国产方案出货份额将接近 90%。
清华系公司清昴智能 11 月 17 日联合华为昇腾生态等伙伴,发起昇腾 950DT 万卡级 Token 工厂联合运营计划:
- 2027 年推进万卡级联合运营,建设国内领先的独立国产 Token 工厂;未来五年扩展为十万卡级、多地域多芯片的 Token 工厂网络。
- 四方分工:华为提供芯片与超节点,IDC/智算中心提供机房电力,模型与流量方提供真实需求并参与验收,清昴负责软件优化、调度、统一计量与运营。首批合作方包括智源研究院、上海数据港、中国电信湖北分公司等。
- 提出验收标准「多快好省」:模型丰富度与吞吐、时延与适配速度、精度与 SLA、每百万 Token 综合成本。
技术与成效
- 智能网关动态分配算力 + 四级 KVCache,缓存命中率最高 99%,算力利用率由 30%40% 提至约 80%。
- 算子优化:特定 MoE 算子性能提升 84 倍,LinearAttention 提升 63.4 倍;集群每分钟 Token 吞吐由 4000 万提升至 1.4 亿,P99 首 Token 时延由 180 秒缩至 40 秒。
- 已联合 20 余家算力中心运营,积累近 2 万张国产卡调度经验,适配 15 款以上国产芯片,推进近 10 套昇腾 910C 超节点落地。
- 引入 RSI 自进化技术「用 AI 优化 AI」,已积累数万条优化轨迹,支持新算子小时级验证、新模型天级适配。
「创投」频道最新
- 投资人回应 SarvamAI 争议:印度 GPU 紧缺,托管全球模型利润惊人 — itsOmSarraf_ · 2026-11-20
- 银行拒绝 SpaceX 贷款:别把抵押的芯片射上天 — minhnguyen · 2026-11-20
- OpenAI 布局全价值链,Anthropic 只卖智能服务恐难守估值 — VraserX · 2026-11-20
- 17B 美元 vs 10B?Anthropic 与 OpenAI Q3 营收差距被高估 — VraserX · 2026-11-20
- Anthropic IPO 被指虚假定价:仅 7.4% 股份上市却撑起 1.5 万亿估值 — mark_k · 2026-11-20
- 传 Anthropic 七位联创上市首日抛售约2365万股 — basedjensen · 2026-11-20