物理学者跨界谈 AI:能力涨而控制不涨,风险暴露必然上升
AryHHAry · x · 2026-09-20
作者有物理学背景,类比自然法则提出技术系统也存在「系统定律」:能力提升而控制不提升,风险暴露会上升;自主性提升而观测能力下降,不确定性会上升;复杂度上升而治理机制保持静态,系统脆弱性会上升。作者强调这不是道德恐慌,而是系统工程层面的客观规律。
所属事件:物理学者提出 AI「系统定律」：能力涨而控制不涨风险必升(2 条相关)→
「漫话AGI」频道最新
- ICLR 2027 投稿破 6 万篇,近九成疑由 AI 主写 — DominiqueCAPaul · 2026-09-20
- cloneofsimo:做 AI 就为造出能解决一切人类问题的通用智能 — cloneofsimo · 2026-09-20
- 研究员警告:人类对 AGI 的「有用性」终将归零 — danfaggella · 2026-09-20
- AI 数学争议发酵：网友批评 Terence Tao 谨慎派拖慢救命研究 — RachelVT42 · 2026-09-20
- 「心智杀毒软件」:用模因学研究如何抵御传染性坏想法 — irinarish · 2026-09-20
- 物理学视角看 AI:能力涨而控制不涨,风险敞口必然上升 — AryHHAry · 2026-09-20