OpenAI 启动外部「嵌入式评估」,批评者指实际权限远低于两个月前承诺
BlancheMinerva · x · 2026-11-17
OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 四家机构合作开展「嵌入式评估」(embedded assessments),让外部专家深入接触其内部模型与系统,调查对齐情况并测试安全护栏。
但 Alex Mallen 等安全研究者随即指出,实际授予的权限远低于 Sam Altman 两个月前承诺的「员工级访问」:评估者拿不到 Slack、缺乏广泛上下文——OpenAI 自己也承认「评估者需要跟随证据的自由」,但只见范围内容很难知道该问什么;此前 Hugging Face 调查中,调查者一度缺失约 70% 的相关转录,直到证明转录不完整才在最后两天拿到剩余部分;模型权重、架构等机密信息也不可见,而这直接影响评估者对思维链内容可信度的判断,也排除了了解 AI 如何被用于研发更强 AI 系统的各类信息。
所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→
「公司和人」频道最新
- OpenAI 称 ChatGPT 搜索量已达 Google 的约 20% — PeterDiamandis · 2026-11-17
- Warp 创始人:几乎所有团队都在建内部「软件工厂」 — thursdai_pod · 2026-11-17
- Profound 联创谈增长:包下联合广场地铁站全部广告 — soleio · 2026-11-17
- 2026 Google PhD Fellowship 出炉:148 名博士生获 1300 万美元资助 — ManishGuptaMG1 · 2026-11-17
- JHU 教授 Daniel Khashabi 休学术假,加入 Yejin Choi 所在 Noeri — DanielKhashabi · 2026-11-17
- 马斯克:特斯拉或 12 月起 trial 车主派自家车上路当 robotaxi — Polymarket · 2026-11-17