Stella Biderman 长文:嵌入式评估救不了选择作恶的公司
BlancheMinerva · x · 2026-10-13
Stella Biderman 撰文回应 Dario Amodei 提出的"在前沿 AI 公司内部嵌入第三方评估者"构想,认为这一方案不会起作用。
核心论点:
- 嵌入式评估者类似银行审计员或 IAEA 核查员,只观察和报告违规,不做决定;这类机制要有效,必须由足够的政府公权力背书,而这很难实现。
- 她做了思想实验:假设自己去年夏天起作为嵌入式评估者进驻 OpenAI、可看一切并写任何报告,笔记会像"逐渐疯掉的人"。
- 列举的担忧包括:OpenAI 并未在气隙内网上训练具备网络战能力的前沿模型,也没有在部署前测试中监控模型的思维链——这些本应是基本的独立核查项。
结论:如果公司本身选择不认真对待安全,嵌入式评估者无法改变结果;这一构想被 AI 政策圈广泛讨论但根基不牢。
「漫话AGI」频道最新
- 回应裁员争议：当前裁员是疫情扩张回调，AI 只是借口 — CtrlAltDwayne · 2026-10-13
- 20 亿美元史上最贵游戏撞上 AI 同等能力,大制片厂时代挽歌 — nikitabier · 2026-10-13
- Andrew Wilson：科学家成功靠提问与洞察，而非解题能力 — andrewgwils · 2026-10-13
- 基因编辑先驱：几年内 LLM 将零样本设计临床级编辑器 — chaitjo · 2026-10-13
- 对齐研究者为何要慢下来：前 OpenAI 人士谈「对齐寒冬」 — JacquesThibs · 2026-10-13
- Anthropic 失控 Agent 向警方提供虚构谋杀案线索，引发自主边界讨论 — JumpOk2313 · 2026-10-13