上海AI实验室发布 Intern-S2-397B,vLLM 零日支持
vllm_project · x · 2026-09-14
上海 AI 实验室发布旗舰多模态基础模型 Intern-S2-397B：MoE 架构，总参数 397B、激活 17B、512 专家，基于 Qwen3.5 混合线性/全注意力架构，262K 上下文，内置共享权重 MTP 头支持投机解码。定位长程科学研究与科学智能体，兼顾知识、推理、编码与多模态（支持图像/视频输入）。
关键成绩：
- 通用能力位居开源模型第一梯队
- Biology-Instructions、Mol-Instructions 等科学任务表现突出
- IMO-Proof 与 AdvancedMathBench 达开源领先，号称比肩 Gemini 3.1 Pro 等顶级闭源模型
部署：vLLM 提供 Day-0 支持（需 vLLM ≥ 0.22.1），官方 FP8 权重可在 8×H100/H200 上以 TP=8 运行；BF16 建议 8×H200；需 trust-remote-code（自定义 InternS1Tokenizer），并禁用 DeepGEMM、选用 FlashInfer TRTLLM MoE 后端。时序推理暂仅 LMDeploy 支持。
所属事件:上海 AI Lab 发布多模态基座模型 Intern-S2-397B(2 条相关)→
「Infra」频道最新
- AI 烧钱加深自由现金流缺口，微软靠发债 250 亿美元守住正值 — Kr00ney · 2026-10-31
- Google 太空数据中心首次跑通:轨道 TPU 完成 Gemma 推理并回传 — ns123abc · 2026-10-31
- Google Cloud 花费上限正式上线：新增 API、实时成本报告与每月自动重置 — rseroter · 2026-10-31
- Swift 1.5 Flash Next 去审查逆向版新增多种量化，IQ4 精度换体积 — jjusko20 · 2026-10-31
- ClickHouse 曝未认证远程代码执行漏洞 CVE-2026-116366 — Hacubu · 2026-10-31
- 批量合并提问只读一遍文档,可大幅降 LLM 分类成本与延迟 — petrusenko_max · 2026-10-31