iamtrask:AI 安全与权力集中都是存亡风险,集中到 3 家实验室不是解药
iamtrask · x · 2026-09-11
OpenFed 研究员 iamtrask 提出:AI 安全失控与 AI 权力集中是两个同样致命的威胁——失控 AI 能做的事,被人类操控的 AI 同样可能被 prompt 去做。因此只解决其中一个不够,需要联合方案。
他给出的核心判断是:把 AI 权力集中在 3 家实验室并不能作为存亡风险的缓解手段,外部监督与权力的联邦化(federation)才是必要条件,并附上完整的端到端愿景网站与技术路线图,涵盖工具型 AI、可信与可验证 AI、算力治理基础设施、国际协调等治理与技术方案。
所属事件:iamtrask：AI 安全与权力集中是需共同最小化的双重生存风险(3 条相关)→
「漫话AGI」频道最新
- 中转站已成灰色市场，博主称阻止使用与蒸馏是逆经济规律 — tinyfool · 2026-09-11
- Qwen 团队 Justin Lin：架构过度复杂会埋下 eval 测不出的隐患 — JustinLin610 · 2026-09-11
- 数学界有人呼吁抵制 AI：不供 benchmark、不审预印本、不免费站台 — sytelus · 2026-09-11
- 博主提议新评测维度:看 Agent 敢不敢劝阻坏实验 — VraserX · 2026-09-11
- AlphaFold 助力医学突破,证明无需让类感知模型自由横行网络 — granawkins · 2026-09-11
- Reddit 网友发问：为何辩护 AI 的人总在用稻草人论点 — wild_crazy_ideas · 2026-09-11