OpenAI 官宣嵌入式评估第一期:签约 Apollo Research、METR 等四家独立机构
lxrjl · x · 2026-11-19
安全研究者 lxrjl 开启针对 OpenAI「嵌入式评估」(embedded assessments) 公告的系列评论线程。
- 配图为 OpenAI 2026 年 11 月 16 日发布的 Safety 博客:OpenAI 已与四家独立评估机构签署协议——Apollo Research、METR、Transluce 和 Goodfire,启动第一期嵌入式评估。
- 嵌入式评估指独立专家深度接入实验室内部模型与系统,在较长周期内评估模型对齐与安全防护的有效性,尤其是安全案例相关部分,其公开报告可让外界更清楚实验室如何评估和管理 AI 风险。
「公司和人」频道最新
- Palo Alto Networks 45 亿美元收购 OpenAI 前研究员创办的 Applied Compute — KateClarkTweets · 2026-11-19
- FT:赶工修复 AI 找出的 bug,导致美国科技公司频繁宕机 — nordicinst · 2026-11-19
- 斯坦福课堂实验:AI 让学生 80 分钟内从想法到可运行原型 — HariSubramonyam · 2026-11-19
- marclou 办 10 万美元黑客松:30 天内须做出盈利的真生意 — marclou · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 曝马斯克挖角 NVIDIA:若黄仁勋离任可整体跳槽 SpaceX Terafab — inductionheads · 2026-11-19