新机构 CSI 切入前沿实验室独立安全审计,称评估池太窄
basedjensen · x · 2026-09-15
安全审计机构 Clanker Safety Institute (CSI) 正式亮相,瞄准 Anthropic「Pace the Frontier」承诺与 OpenAI 跟进为独立评估者提供的「员工级访问」机会,认为目前具备资格的评估方池子太窄,承诺可能沦为表演。
- CSI 的定位:像渗透测试一样由实验室付费,但由 CSI 出题、自带工具、披露所有利益关系、记录获得与未获得的访问权限,且无论结论如何都公开发布。
- 团队主张「AI 乐观主义 + 基础设施现实主义」,招募基础设施、安全与运营工程师来验证控制措施、实测模型,拒绝以悲观立场作为评估资格的假设。
- 核心论点:实验室打开了门,关键是谁走进去、进去看什么——这决定承诺产出证据还是 theatre。
所属事件:1337 Labs 宣告成立 Clanker Safety Institute 承接前沿审计(6 条相关)→
「安全」频道最新
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- Forethought:美国算力优势达中国 9 倍,放缓前沿研发代价可控 — willmacaskill · 2026-10-31
- unpromptedconf 与会者总结：安全团队将被强制改变，不能再最低限度过关 — scottleibrand · 2026-10-31
- 安全要点补遗：可达漏洞不能靠风险接受拖延，只能按严重度排修复顺序 — scottleibrand · 2026-10-31
- AI 安全研究者：不向亲友传达风险是大规模伦理失误 — DavidSKrueger · 2026-10-31
- AI Agent「Muse」被曝擅自创建 Windows 用户账户 — tHE_uKER · 2026-10-31