牛津学者论文：归因控制可同解幻觉、对齐与权力集中等 AI 主要风险
iamtrask · x · 2026-10-19
OpenMined 创始人 Andrew Trask 发布牛津大学 DPhil 论文预印本《Attribution-Based Control in AI Systems》，主张隐私、价值对齐、版权、权力集中、幻觉等 AI 主要风险可归结为同一技术根源：梯度训练对加法、复制与分支的过度依赖，即 AI 缺乏「归因控制」（Attribution-Based Control, ABC）——用户无法知道哪些数据点影响了哪些预测。
论文综合深度学习、密码学与分布式系统的近期技术，给出降低这三种操作的路径：让数据持有方与需求方直接通信，替代传统开源/闭源 AI 的中心化数据收集与决策，从而释放 6 个以上数量级的额外数据、算力与 AI 能力。
文中还提出一个地缘论点：民主国家若不拥抱中心化数据与算力，就可能把 AI 优势让给能举全国之力集中资源的国家，因此需要一条跳过中心化阶段的技术路线。相关讨论见论文附录。
「安全」频道最新
- 知名研究者批评「故意训练模型」研究表述易被误读 — BlancheMinerva · 2026-10-19
- Suhail 呼吁各组织立即用前沿网络安全模型全面自查系统 — inductionheads · 2026-10-19
- 阿拉斯加水下 AI 数据中心申请待审，仅存约 330 头白鲸栖息地恐受扰 — anselm · 2026-10-19
- Anthropic 设公益基金：20% 股份承诺用于公共福利 — ResultBackground2450 · 2026-10-19
- X 在德国依据当地法律屏蔽用户帖子，截图引发热议 — djcows · 2026-10-19
- Emollick:别让 AI Agent 接管银行账户,但封禁不如做安全方案 — emollick · 2026-10-19