OpenAI 开放安全评估深访权限,研究员质疑「精准」或缺监督
tomekkorbak · x · 2026-11-17
OpenAI 安全团队成员 @lamaahmad 详解第三方评估者的权限安排:将向评估者开放研究者在一线使用的部分最敏感工具与前沿模型的深度访问权限,流程会随第一阶段学习持续调整,目标是支撑更好的安全研究而非「走形式的公开报告」;授权员工群体与评估者合作并非限制内部对话。
研究员 tomekkorbak 引用并质疑:所谓「对做什么、怎么做保持精准」的问题在于,OpenAI 有强烈动机把这种「精准」用于切掉不利证据,而这一过程缺乏外部监督。
所属事件:OpenAI「嵌入式评估员」计划详解,外部研究者可深度接触前沿模型(2 条相关)→
「公司和人」频道最新
- NLP 学者 Daniel Khashabi 加盟 Guestrin 团队,双方确认 — DanielKhashabi · 2026-11-17
- 5 万席位企业要求导出全部数据,只为自托管微调模型 — JosephJacks_ · 2026-11-17
- 前 Preamble 创始人 Linehan 加入 Hadrian,用 AI 重造美国工厂 — PaulYacoubian · 2026-11-17
- 曝 Anthropic IPO 后让全员使用高管级股票交易计划 — terryyuezhuo · 2026-11-17
- LLM 可解释性学者 Glaciohound 加入威斯康星麦迪逊,2027 秋招博士生 — fredahshi · 2026-11-17
- Dylan Patel:若黄仁勋离任 Nvidia 将陷入困境,马斯克数据中心用水不及三家 In-N-Out — elonmusk · 2026-11-17