AI 安全需超越实验室内部自律，依赖外部监管与透明度
joshua_saxe · x · 2026-08-30
Joshua Saxe 探讨了 AI 安全的治理结构。他认为，实验室出于自身利益会维持一个基本的“安全底线”并为此提供内部资金。
然而，为了超越这一底线，需要：
- 外部倡导：推动独立于实验室之外的监管政策。
- 公众监督：开展保持透明度的工作，确保 AI 公司承担责任。
他举例 METR (Model Evaluation & Threat Research) 作为外部问责工作的一个范例。在回复中，他进一步建议，具备财务或移民身份优势的人应考虑离开大实验室，专门从事安全倡导工作，因为实验室并不缺乏内部人员。
所属事件:AI 审计需“元透明度”，研究者警惕第三方调查形式主义(4 条相关)→
「漫话AGI」频道最新
- 超级智能比量子计算更威胁密码学？数学家观点引争论 — examachine · 2026-10-16
- 「AI 假装智能如同起重机假装力气」：被引吐槽万亿投资骗局论 — LucaAmb · 2026-10-16
- Buehler 回顾：ChatGPT 发布前三周提出「AI 是科学新语言」 — ProfBuehlerMIT · 2026-10-16
- 研究发现:AI 建议一可用,人类「我不知道」率从 43% 骤降至 3% — ValerioCapraro · 2026-10-16
- 观点：无审查 AI 不是为了作恶，而是守住个人主权 — learnedall · 2026-10-16
- 雪莉·特克尔新书《人工亲密》：AI 正在掏空人类的依恋能力 — LuizaJarovsky · 2026-10-16