OpenAI 首席科学家 Pachocki 提议各大实验室共享 AI 训练上限
AntDX316 · x · 2026-11-23
OpenAI 首席科学家 Jakub Pachocki 提出,希望 Google、Anthropic 等主要 AI 实验室就「何时停止训练模型」达成一致:他警告 AI 最早可能在 2027 年开始加速自我改进,使 AI 研究突破快于人类理解速度。
具体提议包括:
- 各实验室约定共同训练上限,在安全监测能力提升前任何一方不得越过;
- OpenAI 愿意公开内部训练分数(即上文公开的困惑度曲线)以建立互信;
- 引文帖作者则质疑:美中竞争背景下,前沿「限速」实际发生的可能性几乎为零。
这是头部实验室首次公开呼吁跨机构训练配速(pacing the frontier),具有标志性意义。
所属事件:OpenAI 首席科学家警告 2027 年 AI 或自我加速,呼吁设训练上限(3 条相关)→
「公司和人」频道最新
- Mustafa Suleyman 对谈赫拉利:AI、意识与人类的未来 — krishnan · 2026-11-23
- 美财长称银行故障源于 AI 引发的安全补丁,类比「疫苗反应」 — rohanpaul_ai · 2026-11-23
- Josh Elman 力挺苹果:AI 大众消费品要靠乌龟式持续打磨 — rxwei · 2026-11-23
- 讽刺观察:Anthropic 先在 Claude 里做好了文档编辑器,Google Docs 集成却迟迟难产 — sjgadler · 2026-11-23
- 评论:蚂蚁为 AI 公司探路踩的坑,对 OpenAI 而言是「天赐参照系」 — eigenron · 2026-11-23
- 2008 年平安夜特斯拉濒临破产,马斯克押上全部身家完成融资 — elonmusk · 2026-11-23