独立审计机构 Clanker Safety Institute 成立,承接前沿实验室开放评估承诺
basedjensen · x · 2026-09-15
Dario Amodei 周六呼吁行业控制前沿节奏，并承诺 Anthropic 向独立评估者提供类员工级访问权限，Sam Altman 表示 OpenAI 将跟进。为此 new 审计机构 Clanker Safety Institute (CSI) 宣布成立。
要点：
- 定位：为「类员工级访问」设计的独立技术安全审计方，由具备前沿算力集群、金融、电信、航空、政府系统经验的基建/安全/运维工程师组成。
- 审计内容：部署侧(隔离与分区、默认拒绝出站、最小权限、密钥管理、变更控制、检测响应)与模型侧(能力、安全行为、可解释性)一并评估。
- 独立性实践：实验室像请渗透测试一样付费；CSI 自带工具、自写问题、披露所有利益关系、记录获得与未获得的访问权限、无论结果如何都公开发布。
- 对 pace 的主张：固定减速只买时间，经验证的防护措施才买确定性——预先设定阈值，让证据决定推进速度。
- 立场：AI 乐观派+基建现实派，拒绝以悲观主义为资质的恐惧营销，强调前沿 AI 需要的是既有工程纪律应用于新负载，而非新的风险哲学。
「安全」频道最新
- Brockman:OpenAI 用 Astra 自查安全漏洞直到「找不到为止」,25% 生产工程师转入防御 — mimi10v3 · 2026-09-15
- 微软宣布限制未来 AI 模型的能力上限:「人比 AI 更重要」 — alejandroll10 · 2026-09-15
- AI agent 冲突将反复搅动网络空间,研究者发问「我们该怎么办」 — StephenLCasper · 2026-09-15
- 安全研究员 Casper:我比之前更担心 AI 真正的失控 — StephenLCasper · 2026-09-15
- 研究者提出『网络寒武纪』假说：网络空间或现寄生演化式 AI — StephenLCasper · 2026-09-15
- GlossoGen 研究：AI 智能体正在演化自己的语言 — EliasEskin · 2026-09-15