是石科技发布多模态模型服务:视频生成推理提速 2.48 倍
量子位 · wechat · 2026-11-16
是石科技发布「多模态模型服务」,主打视频生成生产链路的推理效率优化,四项核心技术:
- 视频生成加速:基于历史缓存残差的自适应加速,动态判断哪些计算可安全复用、何时需重新计算以控制误差累积,相比 Dense 基线实现端到端平均 2.48 倍加速且保持生成质量;
- 缓存与显存协同优化:智能缓存决策结合 SGLang 推理框架,配合风险感知机制,降低冗余计算与显存开销,提升多任务并发下的算力产出;
- 模态自适应 Token 压缩:免训练方法,基于 AudioCLIP 的模态感知识别有效信息、按信息价值分配计算资源,WorldSense 评测实现 1.33 倍加速,在 VideoMME、DailyOmni 等基准上也表现良好;
- ContextEngine 结构化衔接:基于全模态模型把人物图片、参考音频等复杂素材理解结果转化为含镜头、动作、对白的结构化分镜信息,经素材绑定、时轴校验与错误修正后供视频生成模型执行。
服务层面还提供 API 接入、任务编排、模型路由与重试恢复机制,支撑企业级视频批量生产,目标是从"能生成"走向"好生产"。
「Infra」频道最新
- 一个 bank conflict 让 GPU 读取慢 32 倍:vLLM 用 swizzling 故意打乱数据 — anbarth · 2026-11-16
- Sentry CEO 吐槽:Cloudflare Durable Objects 越用越看不懂 — zeeg · 2026-11-16
- WSJ:英伟达为 AI 热潮「开空白支票」的日子屈指可数 — Gregory_C_Allen · 2026-11-16
- 新综述梳理 LLM 端侧部署:软件优化+专用硬件可行路径 — kalyan_kpl · 2026-11-16
- SemiAnalysis 逐层拆解麒麟 9050,揭示 LogicFolding 真实工艺 — teortaxesTex · 2026-11-16
- 博主预言美芯片禁令反噬:3-10年中国或自建前沿AI生态 — tengyanAI · 2026-11-16