去中心化智能提案:第三方审查通过者可获「海豚安全」标签
aronchick · x · 2026-09-15
Aronchick 在引用 Ramez「不要让少数人控制智能,要人人拥有反映自身价值的智能」的观点后,给出了更具体的治理提案:1) 智能不应由任何单一主体控制——公司、政府或联盟都不行;2) 所有训练前沿模型的机构(包括开源前沿模型的公司)都应允许某种形式的第三方外部审查,审查方在严格 NDA 下可以看到训练数据来源、评测结果和安全流程,并有公开的过程记录;3) 通过审查的模型获得审查机构颁发的类似「海豚安全(dolphin safe)」的标签,未通过者不罚款不禁用,只是没有标签。这一思路借鉴了消费品标签机制,用市场而非强制监管推动透明。
所属事件:iamtrask提出「集体控制」框架重构AI安全辩论(8 条相关)→
「漫话AGI」频道最新
- Box CEO:AI 进步曲线近乎垂直,前沿与所有人的差距还在拉大 — rohanpaul_ai · 2026-10-31
- LLM不会模型坍缩,人类文化与灵魂或许会 — generativist · 2026-10-31
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31