AI安全专家呼吁：行业需从依赖个人转向制度化监管

Miles_Brundage · x · 2026-08-17

神经科学家Joshua Saxe转发并评论称，AI行业由比普通企业高管更重视价值观和安全的人领导，是历史的幸运。但随着AI公司规模化、上市并管理数十亿投资，它们会像其他资本主义企业一样产生负外部性。因此，安全行业需要从依赖个人品格的“前现代”结构，转向韦伯式的规则官僚体系，统一管理模型安全测试、客户了解、权重安全等，避免“狐狸看守鸡舍”。

引用@tszzl的观点指出，模型训练公司大量依赖METR、Redwood、Apollo等非营利组织承担对齐外部性，却未投入足够资金。这些组织为保持独立性而拒绝实验室资金，但需要第三方（如Coefficient Giving）来协调捐赠。