新机构 CSI 切入前沿实验室独立安全审计,称评估池太窄
basedjensen · x · 2026-09-15
安全审计机构 Clanker Safety Institute (CSI) 正式亮相,瞄准 Anthropic「Pace the Frontier」承诺与 OpenAI 跟进为独立评估者提供的「员工级访问」机会,认为目前具备资格的评估方池子太窄,承诺可能沦为表演。
- CSI 的定位:像渗透测试一样由实验室付费,但由 CSI 出题、自带工具、披露所有利益关系、记录获得与未获得的访问权限,且无论结论如何都公开发布。
- 团队主张「AI 乐观主义 + 基础设施现实主义」,招募基础设施、安全与运营工程师来验证控制措施、实测模型,拒绝以悲观立场作为评估资格的假设。
- 核心论点:实验室打开了门,关键是谁走进去、进去看什么——这决定承诺产出证据还是 theatre。
「安全」频道最新
- 微软宣布限制未来 AI 模型的能力上限:「人比 AI 更重要」 — alejandroll10 · 2026-09-15
- 安全研究员 Casper:我比之前更担心 AI 真正的失控 — StephenLCasper · 2026-09-15
- 研究者提出『网络寒武纪』假说：网络空间或现寄生演化式 AI — StephenLCasper · 2026-09-15
- GlossoGen 研究：AI 智能体正在演化自己的语言 — EliasEskin · 2026-09-15
- 安全研究者自述：对 AI 真正失控的担忧明显超过从前 — josh_bickett · 2026-09-15
- 美卫生部门加速部署 AI 诊疗,可开药可心理治疗引安全担忧 — castrotech · 2026-09-15