去中心化智能提案:第三方审查通过者可获「海豚安全」标签
aronchick · x · 2026-09-15
Aronchick 在引用 Ramez「不要让少数人控制智能,要人人拥有反映自身价值的智能」的观点后,给出了更具体的治理提案:1) 智能不应由任何单一主体控制——公司、政府或联盟都不行;2) 所有训练前沿模型的机构(包括开源前沿模型的公司)都应允许某种形式的第三方外部审查,审查方在严格 NDA 下可以看到训练数据来源、评测结果和安全流程,并有公开的过程记录;3) 通过审查的模型获得审查机构颁发的类似「海豚安全(dolphin safe)」的标签,未通过者不罚款不禁用,只是没有标签。这一思路借鉴了消费品标签机制,用市场而非强制监管推动透明。
所属事件:iamtrask:AI安全的真问题是单边控制,唯一答案是集体控制(8 条相关)→
「漫话AGI」频道最新
- Nate Silver 与批评者交锋:LessWrong 帖子算不算 AI 风险研究的证据 — emax · 2026-09-15
- 创业者 Bindu Reddy 批媒体放大「AI 毁灭人类」末日论 — bindureddy · 2026-09-15
- 研究员激辩:欧盟落后前沿几个月所需的算力远低于想象 — eliebakouch · 2026-09-15
- 开发者用 Devin 与自建 Agent 每日自动筛信息:AI Agent 成新信息入口 — bendee983 · 2026-09-15
- 用彗星撞地球讽 AI 末日论:「非零概率」不是认知对等的理由 — dbasch · 2026-09-15
- 「我能创造并终结心智」:网友称 AI 意识伦理亟需新规范 — repligate · 2026-09-15