AI 安全研究员：就算照搬金融级监管，可能也不足以约束 AI
geoffreyirving · x · 2026-10-23
Geoffrey Irving 发起了一场关于 AI 风险的讨论：AI 实验室当前安全方法与航空、核电等严肃行业之间的差距常被提及，但把 AI 提升到那种工程严谨度，可能依然不够。
引用者 Beba Cibralic 补充观点：许多严肃的 AI 治理提案以金融业为模板，主张独立审计、银行式监管或设立 AI 版 FINRA。她在 AI+金融领域工作多年，认为这类机制确实优于 AI 公司现状，但不应视为充分：
- 金融业有几十年时间建设内控体系，至今仍会出大事故，且大量小事故从未登上头条，公开记录让这些机制显得比实际更可靠；
- 金融风险的性质已被充分理解、相对可预测，而 AI 系统的风险并非如此。
结论：借鉴工程与金融的治理框架值得做，但对 AI 风险的治理需要超越现有行业模板的思路。
所属事件:Irving:AI 对齐严谨度需达密码学级(5 条相关)→
「漫话AGI」频道最新
- 单人预训练吓坏年轻研究员,资深学者撰文驳「技能已过时」恐慌 — RexDouglass · 2026-10-23
- NBER 出版《变革性 AI 的经济学》，Agrawal 与 Brynjolfsson 主编 — JMateosGarcia · 2026-10-23
- Pedro Domingos:AI 是智力杠杆,越聪明的人用它越强 — pmddomingos · 2026-10-23
- 意识科学家 Anil Seth 撰文:意识是生命的属性而非计算,造有意识 AI 是坏主意 — anilkseth · 2026-10-23
- Pedro Domingos 预测：2027 年将是史上修复安全漏洞最多的一年 — pmddomingos · 2026-10-23
- 作者用 AI+Lean 做定理证明遇挫：OpenAI 数学突破靠非形式化推理 — Singularitarian · 2026-10-23