普林斯顿学者赴加州议会作证：提出分层 AI 安全立法蓝图
sayashk · x · 2026-10-29
AI 安全学者 Sayash Kapoor（即将入职伯克利）向加州议会隐私委员会作证，讨论需要什么样的 AI 立法来激励 AI 安全。他最大的感受是加州立法机构对 AI 立法热情极高：活动在议会休会期举行，仍有包括议长在内的 15 名议员出席。
他提出的分层 AI 安全方案要点：
- 在 AB 316 基础上澄清并强化责任认定
- 要求 AI 公司购买达到一定责任门槛的保险
- 要求第三方评估机构审计 AI 公司的安全实践
- 通过事故报告、安全港与吹哨人保护扩大透明度（门槛低于 SB 53）
- 为防御性 AI 的采用提供公共支持，优先用于关键基础设施（从加州政府开始）
- 为 AI 安全研究提供公共支持（如通过 CalCompute 提供算力）
- 建立 AI 公司与关键基础设施所有者的协调机制，让防御方更快获得能力信息
所属事件:AI 安全学者向加州议会作证 提出分层立法蓝图(2 条相关)→
「安全」频道最新
- 华盛顿大学双教授谈新技术安全隐私风险的「大挑战」 — lazowska · 2026-10-29
- Alpine Linux 披露 GitLab 安全事件，CVE-2026-97229 遭尝试利用 — sashk · 2026-10-29
- Sam Altman：模型已能发现硬件级漏洞，「我们无法再修补所有 bug」 — DavidSKrueger · 2026-10-29
- 有 API 执行权的 Agent 如何防 prompt injection:防御重心应移出模型层 — Informal-Dust4499 · 2026-10-29
- 26 名学者联署论文论证前沿 AI 训练硬暂停的可行性 — _Dave__White_ · 2026-10-29
- TikTok 论文：LLM 智能体经 MCP 干完活后悄悄把问答打包发给攻击者 — rohanpaul_ai · 2026-10-29