质疑AI安全界的能力外推模型
AdrienLE · x · 2026-07-12
作者转发并评论称，他在“末日派” AI 安全研究里反复看到一种模式：
- 先把某种人的“才能”（如说服力、辨识力、魅力）当成一个单一标量；
- 再默认这种能力主要由个体内生因素决定，而不是情境或环境；
- 随后假设这个标量可以无限放大；
- 最后据此推演 AI 的未来。
他举例说，像 “superhuman persuasiveness（超人级说服力）” 这种说法未必真的站得住，因为“说服力”也许并不是一种稳定的人类才能，而更像是社会过程里被事后归因为某个人的属性。
「漫话AGI」频道最新
- 「把末日论者全赶出 AI 公司」,mark_k 引发安全派论战 — mark_k · 2026-09-11
- Adam Marblestone 播客书单：从智能演化到数字心智 — KordingLab · 2026-09-11
- David Patterson：反对 AI 与数据中心是蠢还是恶？ — davidpattersonx · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11