LessWrong 提案:用 ASIC 固化模型拆分训练与部署,消解前沿 AI 公司风险
LessWrong 精选 · rss · 2026-10-29
LessWrong 文章《Plan R: AI Safety by ASICs》提出一个不需要暂停 AI 发展的制度性安全方案。核心论点:当前文明的 AI 风险来自「前沿 AI 公司」同时具备两个属性——(A)创造可能超越整个文明的强大/可自我复制实体;(B)对由此产生的剩余价值拥有无上限的金融索取权(股票/IOU)。核技术与生物武器近似只有 (A),因为没有 (B) 就没有冒安全风险的激励;而 AI 公司把两者混合了。
方案要点:
- 拆分两类实体:AI R&D 组织(负责训练、蒸馏、测试、对齐,不得发行股权,不得掌握用户数据,物理隔离、强制多小时延迟连接、断网、write-once 日志,按核武实验室+G-SIB 银行监管)和 AI 部署公司(面向消费者/B2B,可发股权,可继续硅谷式快速迭代)。
- 硬件强制分离:模型通过安全评估后烧录为固定功能 ASIC——电路物理实现特定模型,只能推理不能算梯度即不能训练;部署公司只能跑 ASIC 模型。模型交付后即删除或加密,研发组织不得再运行。
- 反 dogfooding:AI R&D 组织不得使用自家模型(无论通用算力版还是出售的 ASIC 版),只能用其他公司的 ASIC——任何一家单点「裸奔」都会被其他公司较弱的 ASIC 拖慢,削弱单家公司递归自我改进失控的风险。
- 消除 compute overhang:研发组织外的高规格算力全部以 ASIC 形式存在,失控 AI 无通用算力可夺取。
AI 并未被禁止:ChatGPT 照常由 ASIC 提供,机器人、医疗、军事应用照常,只是训练与推理在硬件层被强制分开,没有任何实体能独占「奇点」的金融索取权。可选增强:ASIC 须先在真实场景运行数月才可用于研发组织。
「Infra」频道最新
- 西班牙高铁相撞事故,Movistar 与 Orange 启用星链恢复灾区通信 — elonmusk · 2026-10-29
- 微软云营收超630亿美元增速达30%,纳德拉称押注智能体浪潮 — elonmusk · 2026-10-29
- 谷歌 Gary Illyes 谈假 Googlebot 爬虫泛滥与 AI 训练抓取之乱 — gaganghotra_ · 2026-10-29
- 苹果 MLX 合并多项优化：批量解码提速 2~3 倍，prefill 近 2 倍 — awnihannun · 2026-10-29
- 16GB 显卡跑 Raon-1-mini：从 50 提速到 232 tok/s 的完整调优记录 — McNiiby · 2026-10-29
- Geekerwan 实测:骁龙 2nm 冲到 5GHz,能效却不敌苹果联发科 — firstadopter · 2026-10-29