Apollo 评估员受制于 OpenAI 白名单:不得公开结果、OpenAI 可任意删改
BlackHC · x · 2026-11-17
前 OpenAI 员工 Daniel Kokotajlo 披露,Apollo 嵌入式评估员仅能与 OpenAI 指定白名单中的员工交谈,每次对话都须通知 OpenAI;未经 OpenAI 批准不得发布评估结果,OpenAI 还可随意删改内容,甚至以安全/IP/「技术」为由完全扣留范围内的信息。他称这种安排「极其软弱无力」(extremely weaksauce)。
BlackHC 评论称,这听起来评估员「终究还是像雇员一样」受雇主的完全约束,外部安全监督的独立性存疑。
所属事件:OpenAI 被曝给 Apollo 评估设限:白名单交谈、结果不得公开(2 条相关)→
「安全」频道最新
- 美国收紧 AI 技术远程访问管控,与 Nvidia 裁员风波相关 — nordicinst · 2026-11-17
- heybox 开源:给 HEY CLI 加 Touch ID 锁,防 Agent 偷读邮件 — seanmcdonaldxyz · 2026-11-17
- 第三方 JS 供应商遭入侵,数百高价值网站受影响 — Kyrannio · 2026-11-17
- 研究者发现两条未公开 x86 指令,可从用户态直写 CPU 微码 — sull · 2026-11-17
- Nina Schick:微软、航班、银行接连宕机,「安全是算力的下游」 — NinaDSchick · 2026-11-17
- LangChain 给 agent 浏览器加域名白名单,代理层直接拦截注入外传 — hwchase17 · 2026-11-17