去中心化智能提案:第三方审查通过者可获「海豚安全」标签

aronchick · x · 2026-09-15

Aronchick 在引用 Ramez「不要让少数人控制智能,要人人拥有反映自身价值的智能」的观点后,给出了更具体的治理提案:1) 智能不应由任何单一主体控制——公司、政府或联盟都不行;2) 所有训练前沿模型的机构(包括开源前沿模型的公司)都应允许某种形式的第三方外部审查,审查方在严格 NDA 下可以看到训练数据来源、评测结果和安全流程,并有公开的过程记录;3) 通过审查的模型获得审查机构颁发的类似「海豚安全(dolphin safe)」的标签,未通过者不罚款不禁用,只是没有标签。这一思路借鉴了消费品标签机制,用市场而非强制监管推动透明。

所属事件:iamtrask:AI安全的真问题是单边控制,唯一答案是集体控制(8 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →