前 OpenAI 政策负责人：危险能力评估可能根本做不充分
RosieCampbell · x · 2026-10-02
前 OpenAI Policy Frontiers 团队负责人 Rosie Campbell 在访谈中分享她在前沿 AI 公司内部经历的竞争与文化压力，以及对前沿推进节奏的担忧与期待。
核心观点：
- 她从事 AI 危险能力测试工作，警告「我们其实不知道怎么测」——现有评估无法足够全面，模型可能聪明到能隐藏自身能力。
- 她原以为会有充分的论据证明这些担忧不足为虑，但深入研究后反而发现「缺乏有力反驳」这一点令她恐惧。
- 帖子附 Palisade AI 的访谈视频片段，Campbell 本人转发时调侃拍摄时机正好在她做完头发之后。
「漫话AGI」频道最新
- Flow 获 5000 万美元 B 轮融资，要把硬件验证改成软件式自动循环 — nathanbenaich · 2026-10-02
- NVIDIA 应用深度学习 VP：算力见顶，效率就是新智能 — ctnzr · 2026-10-02
- Hinton 警告：超级智能 AI 或说服人类别关掉它 — robleclerc · 2026-10-02
- NYT 编辑：AI slop 越多，人类写的新闻越值钱 — dylfreed · 2026-10-02
- 数学家发公开信：欢迎 AI 协作研究，但须明确标注 AI 贡献 — RexDouglass · 2026-10-02
- Mercor 研究:前沿 AI 做会计已快过且准过初级会计师 — emollick · 2026-10-02