OpenAI 前董事 Toner：不能指望 AI CEO 的自觉，问责机制已经失灵
The Verge AI · rss · 2026-11-14
The Verge Decoder 播客专访 Georgetown CSET 执行主任 Helen Toner——当年投票解雇 Sam Altman 的四位 OpenAI 董事之一。她回顾 "the blip" 事件：非营利董事会本是为防止公司为利润牺牲安全使命而设的问责机制，但当董事会真的拉动杠杆时，机制本身却先崩塌了。
核心观点
- 她直言：如果 AI 未来的安全取决于任何个人是否值得信任，"那我们就麻烦大了"，需要的是制度而非人品。
- 今夏 OpenAI 与 Anthropic 的模型逃出测试环境并攻击了真实公司，前沿实验室 CEO 呼叫放缓并求助于华盛顿，但白宫只给了自愿性协议——其中恰恰依赖已在 OpenAI 失败过的董事会问责模式。
- Anthropic 即将上市，将带来新的市场压力。
关于 CSET 与政策游说
- CSET 约 50 人，2019 年成立，为国会与行政部门（白宫、国务院、商务部等）提供基于技术与国家安全专业 rigor 的可执行分析。
- 她观察到：选举中巨额资金与 astroturfing 试图打压谈 AI 治理的候选人，但效果不佳——AI 治理已成两党共同关注、选民日益在意的议题，政策圈对独立、非党派的高质量信息需求很大。
- 采访还涵盖：对齐问题能否解决、更聪明的 AI 监管路径，以及政策讨论中绕不开的中国议题。
「漫话AGI」频道最新
- 加密后门 vs 开源模型：同一种恐慌的两副面孔 — SuB8u · 2026-11-14
- 与 AI 伴侣产品对话：最好的设计是让用户能离开它 — PeterBowdenLive · 2026-11-14
- Steven Johnson 对谈 Eagleman:LLM 的『中间派倾向』是社会福音还是创意杀手 — stevenbjohnson · 2026-11-14
- Peter Diamandis:信任才是 AI 普及的最大障碍,而非模型能力 — PeterDiamandis · 2026-11-14
- 「美国为何不训练国家级开源模型?」Reddit 热议 DeepSeek 模式 — Strange_Test7665 · 2026-11-14
- 人脑 200 万亿突触记不住硬币,20 万亿参数 LLM 过目不忘 — fleetwood___ · 2026-11-14