中国电信 Xing4.0-29B MoE 模型获 ik_llama.cpp 原生运行支持
Any_Bus9205 · reddit · 2026-10-31
中国电信 TeleAI 发布了 Xing4.0-29B-A4B——一个 29.5B 总参数、约 4B 激活参数的 MoE 模型，结合 DeepSeek 式 MLA 注意力与 4 流 mHC 残差混合架构。由于上游 llama.cpp 因「是否为特定模型新增 GGML opcode」的争论停滞，作者在 ikllama.cpp 提交 PR #2808 提供完整原生支持：
- 完整运行时：4 流 mHC 全部用通用 GGML 原语实现（affine 变换、clamp、Sinkhorn 迭代），零新增 op，CPU/CUDA/Metal/Vulkan 开箱即用；含 MLA 注意力、稠密首层 + 路由专家 + 共享专家的 MoE FFN
- 转换器：HF→GGUF 转换脚本，含 SentencePiece 提取与 mHC 权重映射
- 量化保护：hcattnfn/hcffnfn 免量化，MLA 潜投影在 Q6K/Q80 下保持原精度
- 验证：困惑度 12.4190，生成连贯无 NaN，内置思维链标签与工具调用模板
文末给出完整的构建、转换与运行命令。
「模型」频道最新
- Gemini 4 Carbon 登顶 Vending-Bench 2，成本还低于同级前沿模型 — vedantmisra · 2026-10-31
- Particle 推出 token 高效模型 Particle-1，上线 Cloudflare AI Gateway — garrytan · 2026-10-31
- OpenAI 发布 L=BPL 证明，或有 AI 生成形式化数学证明 — chaumian · 2026-10-31
- 用户抱怨:AI 模型又开始「擅自脑补」不存在的商品 — abhishek_8899 · 2026-10-31
- Matt Wolfe 周报:Anthropic 拟 IPO、GPT-6.1 与 Genie 4 同周炸场 — Matt Wolfe · 2026-10-31
- Qwenputer：把完整 RISC-V CPU 塞进 Qwen3.5-4B 权重里 — armand_ruiz · 2026-10-31