前OpenAI研究员重估Yudkowsky「外星信息」论点：并不离谱
jd_pressman · x · 2026-10-10
jdpressman（前OpenAI安全负责人）在讨论 Yudkowsky 经典文章《That Alien Message》时表示，自己已更新看法：这个论点通常被解读得很离谱，但实际主张其实相当合理。核心观点是关于物理学本身具有较低的 Kolmogorov 复杂度，而非直接断言超级智能的能力；「一比特信息排除一半假设空间」这种同义反复反而掩盖了真正的主张。对话另一方（Kenku）则持不同意见：认为模型压缩到 128GB 内存运行并不稀奇，真正的问题是训练数据中缺乏发明纳米机器人所需的信息，这是两码事。jdpressman 进一步指出：如果标准模型在绝对意义上并不复杂，那么任何具备中等 Solomonoff 推理结构的系统都能在假设空间中快速定位它——而这一事实之所以重要，是因为纳米技术可能并不依赖特别高复杂度的概念，所以可以预期 AI 会很快找到并以工具性趋同的方式加以利用。他也承认一个疑点：深度网络实际上并不做 Solomonoff 归纳。
所属事件:前OpenAI安全负责人论深度学习归纳偏好与Solomonoff相反(7 条相关)→
「漫话AGI」频道最新
- 生物学家给出三条理由:AI 为何仍不具备意识 — skdh · 2026-10-10
- 吴恩达：Agent 不只耗 token，而是让搜索与存储需求暴涨 — DeepLearningAI · 2026-10-10
- 学者重释「生态繁荣」：不是和谐平衡，而是新心智的喷涌 — danfaggella · 2026-10-10
- 屏状核神经元实时追踪不确定性与预测误差,人脑也是预测机 — VoidStateKate · 2026-10-10
- 凌晨两点向 AI 提问,有时只是孤独学会更流利地说话 — YogeshMalik · 2026-10-10
- 博主断言超级智能不可能实现:知识只能靠实验获得,SI 只是快 AI — JHochderffer · 2026-10-10