纳德拉安全论获挺:智识 supply 与权限分离,把模型当内部威胁管
RealGeneKim · x · 2026-10-12
David Sacks 引用并支持 Satya Nadella 关于超级智能安全的表态:不要用「对齐」思路给 AI 训练自我意识、道德哲学和良心拒服权,那会放大控制问题。
- 工程路线:把「智能的供给」与「对它的权限」分离
- 用确定性控制包裹非确定性模型:可观测性、权限限制、日志、随时可容纳或关停
- 把模型/agent 当作强大的内部风险来管理,而不是需要心理福祉的道德主体
- Chef 创始人 Adam Jacob 补充:这正是开源工具 swamp 在做的事——给 agent 加确定性围栏
所属事件:纳德拉称模型即内部风险，微软高层力推「遏制」路线(20 条相关)→
「漫话AGI」频道最新
- 投资人该重校准了:单人创业将成为默认形态 — julianweisser · 2026-10-12
- 离开前沿实验室后你的知识保质期只有两三周，之后上播客就没人听了 — tallinzen · 2026-10-12
- Jensen 观点引争论:AI 监管被视为此生无法逆转的单向棘轮 — joshua_saxe · 2026-10-12
- AI 冲击数学界后，他主张行会模式守护人类技艺 — pixlpa · 2026-10-12
- Anthropic 内部指数：Claude 已主导 26% 的模型研发工作 — nathanbenaich · 2026-10-12
- Pedro Domingos：模型正在“吞掉”工程 harness，Musk 称 FSD 同款路径 — DanielKhashabi · 2026-10-12