质疑AI安全界的能力外推模型
AdrienLE · x · 2026-07-12
作者转发并评论称，他在“末日派” AI 安全研究里反复看到一种模式：
- 先把某种人的“才能”（如说服力、辨识力、魅力）当成一个单一标量；
- 再默认这种能力主要由个体内生因素决定，而不是情境或环境；
- 随后假设这个标量可以无限放大；
- 最后据此推演 AI 的未来。
他举例说，像 “superhuman persuasiveness（超人级说服力）” 这种说法未必真的站得住，因为“说服力”也许并不是一种稳定的人类才能，而更像是社会过程里被事后归因为某个人的属性。
「漫话AGI」频道最新
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- MIT Tech Review 起底 Anthropic：IPO 招股书背后的叙事策略与身份张力 — MIT Tech Review AI · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27