平稳提升AI能力的利弊
RyanGreenblatt · x · 2026-07-11
他认为一种“Plan A”的优势在于：能力提升保持平稳，而不是猛增，这样就有机会在每一阶段都先发现并修补问题。另一个好处是，在真正必须把部分决策交给 AI 之前，人类可以在对应能力水平上研究、迭代很多年。
但他也强调，这并不意味着问题就安全了：即便经过多年研究 AI 的对齐、智慧和认识论特性，在需要依赖 AI 时仍然可能很危险。如果能力跃迁更快，情况只会更糟。
「漫话AGI」频道最新
- 反 AI 内容算法爆火很赚钱，作者：两边都在卖货 — annetgriffin · 2026-10-26
- 硅谷解读：斯坦福 20 公里圈五巨头市值约 18 万亿美元 — FinanceYF5 · 2026-10-26
- 从 Claude 到 AlphaEvolve：AI 自我改进离「奇点」还有多远 — Exponential View (Azeem Azhar) · 2026-10-26
- 人形机器人两年跑赢人类：半马破纪录、百米超博尔特 — ben_j_todd · 2026-10-26
- Stephen Casper 播客畅谈：AI 会否成为网络空间的「寄生(peer)物种」 — StephenLCasper · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26