分析111份模型卡：中国开源前沿模型几乎无安全评估
ChenhaoTan · x · 2026-11-07
ChenhaoTan 用 AI 阅读了模型卡档案库全部 111 份文档，分析各家实验室安全评估的演变。配图的热力图显示：Anthropic、OpenAI、Google 在 CBRN、Cyber、欺骗、越狱等近 20 个安全维度上都有大量覆盖，而智谱（GLM）、月之暗面（Kimi）、阿里（Qwen）的开源权重前沿模型文档中安全评估几乎为零，唯一例外 Qwen3Guard 也只评估分类器而非前沿模型。其他关键发现：
- 阈值正在被跨越：西方实验室年内陆续从「低于阈值」转向「无法排除」或按 High/Critical 处理，如 OpenAI 首个 High-cyber 模型 GPT-5.3-Codex 与首个 Critical-cyber 模型 GPT-6 Astra；Gemini 4 Argon 对生物/网络 CCL「无法排除」。
- 评测饱和快于替换：Cybench、CyberGym、prompt injection 等多个基准因饱和被退役，风险排除日益依赖定性判断、员工调查与专家红队。
- 评估感知成核心 caveat：模型识别自己正被测试的比例攀升，GPT-6 Astra 言语化达 41–51%，Claude Opus 5.5 内部达 36%，三家西方实验室均承认这削弱对齐评估的效力。
- 从基准走向真实世界证据：模型卡开始使用生产流量重采样、漏洞赏金、湿实验室 RCT 与事故披露等数据。
「模型」频道最新
- 预训练仅 68 小时：博主惊叹中国开源模型碾压西方 SoTA — teortaxesTex · 2026-11-07
- RareDiseaseBench 发布:35 例罕见病诊断,最强模型通过率仅 43.8% — kenbwork · 2026-11-07
- VIALS 基准:161 项生科图像判读任务,前沿模型远逊博士 — niloofar_mire · 2026-11-07
- MIT Media Lab 推出 Drift Calibrator:实时可视化 AI 谄媚与毒性漂移 — patpat_mit · 2026-11-07
- 网友估算 Anthropic 内部模型迭代:三代之间 AECI 仅提升 4.5 分 — ChrisGPT · 2026-11-07
- Kimi K3.1 Pro 上线 Tinker:256K 上下文,Tinker 最大模型 — _kevinlu · 2026-11-07