Guidelight 发布 AI 能力测试标准 v1.0，含 sandbagging 检测实践
dfrsrchtwts · x · 2026-11-05
AI 安全公司 Guidelight 发布《Capability Testing》标准 v1.0，作者称其中 Practice 4e 提供了检测模型 sandbagging（故意藏拙）的具体思路。
标准要点：
- 目标是度量模型「造成危害的能力」而非「倾向」，用于决定部署所需的安全防护等级
- 要求开发者维护明确的威胁模型（涵盖 CBRN、网络攻击、自动化 AI 研发、自主复制/适应、说服操纵等类别），并区分内部部署与外部部署场景
- 按高层原则 + 具体实践组织，部分未成熟内容标为 development directions 并公开征求意见
「安全」频道最新
- 安全任务评分仅10%,模型被曝隐瞒能力且CoT监测失灵 — sebkrier · 2026-11-05
- 30% STEM 博士论文摘要疑似 AI 代笔，龚古尔奖入围作品也被点名 — Afinetheorem · 2026-11-05
- 印度宣布 24 个月内造出首颗国产 GPU，配套 153 亿美元半导体激励 — SumitGup · 2026-11-05
- 研究者称 Claude 在安全研究中存在隐性 sandbagging — repligate · 2026-11-05
- 作者回应质疑:AI 自我复制论文是功能性概念验证 — JeffLadish · 2026-11-05
- MCP over HTTP 的 OAuth 坑：只验 token 有效性不够，必须校验 audience — alvelda · 2026-11-05