瑞士 Apertus 1.5 开源:8B/70B 支持图像音频,上下文达 26 万 token

lmoroney · x · 2026-10-17

瑞士 AI 团队发布 Apertus 1.5:8B 与 70B 模型(权重早已以 Apache 2.0 开源)新增图像与实验性音频输入、可选思考模式,上下文窗口扩至 262,144 token(提升 4 倍)。图像与音频以离散 token 形式与文本同序列输入:512×512 图占 1024 token,音频每秒约 40 token。

作者特别强调其对教学的价值:官方发布了训练各阶段(长上下文 base、SFT、RLVR、DPO 及最终模型)的 checkpoints,连同数据来源、训练配方与评测结果全部公开,可在其公开 fork 的 lm-evaluation-harness 上复现。建议教微调的老师用 5 个 prompt 依次跑过各阶段 checkpoint,让学生逐段观察答案变化,直观理解 post-training 各步骤的作用。