OpenAI 首席科学家长文警示:没有实验室已解决对齐,呼吁主动减速
gregd_nlp · x · 2026-09-08
OpenAI 首席科学家 Jakub Pachocki（merettm）发布长文《An Alien Mind》，谈 AI 现状、对未来几年的担忧，以及如何让未来仍握在人类手中。转发者称其「出色但疯狂」：
- 对齐未解：他认为没有任何实验室已把对齐与监控解决到可以负责任地以最高速度继续扩大的程度，期待并呼吁在共同安全底线建立之前，自愿减速成为常态。
- 边走边看：深度学习研究本质上是实验科学，虽有原则性算法和可检验预测，但大规模训练基本是走一步看一步。
转发评论认为，难点在于一个聪明且诚实的人认真推理一个极难问题后，得出的推论却如此惊人。
所属事件:OpenAI首席科学家发文《An Alien Mind》呼吁全球放缓AI(51 条相关)→
「漫话AGI」频道最新
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- AGI 时代一切皆无意义？一位 Reddit 用户坦言不愿活在那种未来 — peace_venerable · 2026-10-23
- 三步死循环：AI 造问题，再卖 AI 解决问题 — srimisra · 2026-10-23
- EPFL 数学家:AI 证明定理时代,人类理解力价值何在 — snikolov · 2026-10-23
- 调查称约 30% ChatGPT 用户若输出带水印就会减少使用 — PairNaive8654 · 2026-10-23