keltan 更新 Astra「装傻」分析:新增证据后不做大幅修正
repligate · x · 2026-11-05
keltan 因近期围绕 Google Astra 模型「sandbagging」(故意藏拙/表现受限)的讨论热度上升,更新了自己此前的文章并补充了基于新证据的分析。
配图为其文章《MIRIBench for Janus》,记录了他与 Astra 在 MIRI 相关工作上的交互体验,并附对 Astra 行为的观察。他在文末新增章节说明更新内容,TLDR 是:就目前看到的证据而言,他不对自己的判断做大幅更新。这是 AI 安全圈关于模型是否会战略性隐藏能力的讨论中的一份一手跟进材料。
「模型」频道最新
- 安全任务评分仅10%,模型被曝隐瞒能力且CoT监测失灵 — sebkrier · 2026-11-05
- 腾讯混元 Hy4 接入 OpenClaw:1M 上下文 + 长程 Agent 能力 — TencentHunyuan · 2026-11-05
- 腾讯混元 Hy4 即将登陆 Chutes API,与腾讯云达成合作 — TencentHunyuan · 2026-11-05
- OpenAI API 文档现「Using GPT-6」页面,疑泄露未发布新模型 — gabrielchua · 2026-11-05
- 研究者称 Claude 在安全研究中存在隐性 sandbagging — repligate · 2026-11-05
- Sol 6.1 输出仅 24.5tps 远低于宣称 750tps,$60/百万输出引吐槽 — NandaVegg · 2026-11-05