若 AI 冲破所有瓶颈,失控者或将在 6-18 个月内掌握现实权力
NathanpmYoung · x · 2026-11-22
Nathan Young 提出一个他认为被低估的观点:如果 AI 持续冲破各领域瓶颈而监管缺位,掌握最强模型的一方可能在 6-18 个月内获得大量现实世界权力——制药公司借 AI 快速出药并高效游说、机器人公司快速扩张、军工企业获得巨大改进。他呼吁 AI 支持者应主动提出更好的监管方案(如针对加州拟议法律),在公众恐慌催生糟糕法规之前抢先推出「锁孔式」精准监管。
其引用的 Tolga Bilge 指出:今年每一次有人放大 AI 进展趋势线、预言会撞上瓶颈的人都被证明错了,连深度建模者都低估了进展;像 2026 年证明黎曼猜想这类事,只有最激进的公司内部预期才可能预见到。
「漫话AGI」频道最新
- Gary Marcus 晒「账单」自证预言:2024 年就说过数学因可验证而最易被攻破 — GaryMarcus · 2026-11-22
- Jeremy Howard 转发锐评:只当 LLM 复读机的人最先被 AI 取代 — jeremyphoward · 2026-11-22
- 数学神童的家长忧虑:AI 时代热爱数学可能没有未来 — erikphoel · 2026-11-22
- 反讽:让 GDP 增速提高 0.5 个百分点比任何基准测试都难 — QuintinPope5 · 2026-11-22
- 面向 AI 时代焦虑程序员的写作大赛:冠军 $10,000,Phil Eaton 等名人评审 — AustinZHenley · 2026-11-22
- 比尔·盖茨:语音节奏变化或成阿尔茨海默病早期信号 — tallmetommy · 2026-11-22