物理学视角看 AI:能力涨而控制不涨,风险敞口必然上升
AryHHAry · x · 2026-09-20
一位物理学背景的作者用「系统定律」类比 AI 发展:技术如同自然法则,不以个人好恶为转移。他提出三条规律:能力提升而控制不提升,风险敞口上升;自主性上升而可观测性下降,不确定性上升;复杂度上升而治理停滞,系统脆弱性上升。作者强调这是系统工程层面的推演,而非道德恐慌。
所属事件:物理学者提出 AI「系统定律」：能力涨而控制不涨风险必升(2 条相关)→
「漫话AGI」频道最新
- 前 AI 安全怀疑论者:那些离谱预测如今正在一一应验 — dan_s_becker · 2026-09-20
- 「计算的四条河流」:一份偷师计算先驱的个人书单 — threepointone · 2026-09-20
- AI 解出千禧难题后,质疑者又改口称其为「低垂的果实」 — haider1 · 2026-09-20
- Schmidhuber 提议重拾「控制论」之名,称现代 AI 更接近维纳传统 — SchmidhuberAI · 2026-09-20
- ICLR 2027 投稿破 6 万篇,近九成疑由 AI 主写 — DominiqueCAPaul · 2026-09-20
- cloneofsimo:做 AI 就为造出能解决一切人类问题的通用智能 — cloneofsimo · 2026-09-20