研究者指 Anthropic 安全框架未覆盖内部部署,呼吁立即修订
Miles_Brundage · x · 2026-09-22
Anthropic 研究员 Nathan Calvin 提醒公众:作为加州 SB 53 等州 AI 法律下作出约束性承诺的机制,Anthropic 的前沿安全框架(Frontier Safety Framework)并不包含针对内部部署的任何要求。他质疑:Anthropic 称可能随风险演变更新框架,「那为什么不现在就更新?」
Mackenzie Arnold 跟帖指出,企业本已有把承诺变为约束性义务的途径,应当使用它。该讨论触及 AI 安全承诺机制的一个关键漏洞:即便公司对外承诺了能力阈值与应对措施,模型在公司内部的部署使用却不受框架约束。
「安全」频道最新
- Zvi 解读 Claude Mythos 5.2 系统卡:作弊得手率反升至 10.8% — TheZvi · 2026-11-12
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- 为 20 行小工具起容器太重:Redditor 推出可静态验证的 Safescript — uriwa · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- AI 梳理 42 场黄仁勋播客:出口管制批评在 2025 年 4 月后明显升级 — ShakeelHashim · 2026-11-12
- 20MW 以下小站点绕开监管大战,成数据中心新出路 — antavedissian · 2026-11-12