纳达尔发文：超智时代应把前沿模型当作内部风险来治理
luisdans · x · 2026-10-13
微软 CEO Satya Nadella 转发并推荐了一篇题为《Models as Insider Risks in the Super Intelligence Era》的长文，讨论超智能时代的信任架构问题。
核心论点：
- 传统软件可以追溯到具体代码路径，但今天的前沿模型无法把行为归因到训练数据或权重配置，我们却在把这些不可解释的系统接入最敏感数据、并让其执行关键任务。
- 不能把责任外包给模型厂商，厂商的保证不能免除使用者的责任。
- 提出要把「智能的供给」与「智能的授权」分离：用确定性的系统设计、人类控制与可靠运维流程包围非确定性模型。
- 主张把前沿闭源与开源权重模型当作「内部人风险」对待——不是因为它们必然恶意，而是任何能力足够的主体都需按此防范。
- 呼吁在现有标准不足处建立行业标准。
「漫话AGI」频道最新
- 意识研究者 Ciaunica：意识是动词而非可搬运的名词，AI 无法拥有 — AnnaCiaunica · 2026-10-14
- 「文档不是知识」：留存推理与不确定性而非思想产物 — jteevan · 2026-10-14
- 图灵奖得主 Patterson：微软苹果做不好 SI 因不敢颠覆自家业务 — davidpattersonx · 2026-10-14
- 微软研究院「7 个预测」：AI 时代阅读变成提问，会议成为回归场所 — jteevan · 2026-10-14
- 博主：微软苹果难破局 AI，正印证颠覆式创新理论 — davidpattersonx · 2026-10-14
- Caltech 物理系主任大首脑初上英文播客,谈 AI 能否先于人类发现物理定律 — TOEwithCurt · 2026-10-14