Stella Biderman 撰文反驳 Dario:嵌入式评估救不了「选择作恶」的公司
BlancheMinerva · x · 2026-10-04
Stella Biderman 发文批评 Dario Amodei 提出的「在前沿 AI 公司内嵌第三方评估者」方案,认为该想法在近月 OpenAI 等一连串安全事件背景下被广泛讨论,但实际不会奏效。
- 核心论点:嵌入式评估者类似银行审计师或 IAEA 视察员——只观察和报告违规,不指挥行动;这类机制要起作用必须有强大政府权力背书,而她认为这几乎不可能实现。
- 思想实验:假设自己从去年夏天起作为嵌入式评估员进驻 OpenAI 并拥有完全访问权:她会记录下「未在气隙内网训练具备网络战能力的模型」「预部署测试中居然没有监控模型的思维链」等一连串critical risk,笔记会像「一个人慢慢发疯的过程」。
- 结论:问题是公司「选择变坏」,评估者无法修复有意为之的组织决策。
「公司和人」频道最新
- 斯坦福课堂实验:AI 让学生 80 分钟内从想法到可运行原型 — HariSubramonyam · 2026-11-19
- marclou 办 10 万美元黑客松:30 天内须做出盈利的真生意 — marclou · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 曝马斯克挖角 NVIDIA:若黄仁勋离任可整体跳槽 SpaceX Terafab — inductionheads · 2026-11-19
- AI Tinkerers 洛杉矶 11 月 20 日办假日派对场,已有 70 人报名 — seanmcdonaldxyz · 2026-11-19
- 腾讯被曝最少买国产芯片,转用日本 neocloud 训模型 — teortaxesTex · 2026-11-19