评估者无 Slack 权限,Nathan Calvin 质疑 OpenAI 外部安全评估形同虚设
NeelNanda5 · x · 2026-11-17
Neel Nanda 转发并评论 Apollo 对 OpenAI 的外部评估:虽然做评估是好事,但远达不到 Sam Altman 承诺的「员工级访问权限」。
- 评估者无 Slack 访问权
- 访谈仅限 OpenAI 挑选的员工,正式谈话须留记录,员工难以自由反映问题
- METR 与 Apollo 目前只约定了训练运行信息的访问权,不包括内部事故等
- Nathan Calvin 进一步指出:评估者对类似「exploit gym 消息板未授权访问导致 Artifactory 故障」这类早于 7 月 Hugging Face 事件的事故,几乎没有足够的访问权限去发现,除非公司主动告知——而事故信息恰恰是对齐研究最重要的信息来源之一
所属事件:Apollo 评估 OpenAI 权限不足遭质疑,Altman 承诺落空(3 条相关)→
「漫话AGI」频道最新
- 开发者称 X 平台八成回复已由机器人编写 — jaivin · 2026-11-17
- 同行评审之争:顶级学者辩「会议审稿是保护思想多样性,还是失效的信号」 — neurocy · 2026-11-17
- Amazon 蜜罐捕获 AI 智能体自动窃取大模型 API 密钥的攻击记录 — ChuckDBrooks · 2026-11-17
- greentext 段子:人类花十万年把按按钮变成机器自己的事 — _RodolfoOcampo · 2026-11-17
- 经济学家提出「顶层是AI」的企业层级模型,改写JPE知识层级理论 — danielrock · 2026-11-17
- 「信息危害」:研究者担忧 CoT scaling 正在无形重塑自己的信念 — akbirthko · 2026-11-17