前 OpenAI 安全研究员:三家条件卡死第三方前沿模型评估机构
basedjensen · x · 2026-09-13
针对有人提议设立统一「第三方安全评估机构」评估前沿 AI 模型，前 OpenAI 研究员 Steven Adler（回复 @suchenzang）表示几乎为零概率会成功，理由有三：
- 真正有能力做前沿评估（而非包装现有 eval）的机构寥寥无几
- 很难做到与现有实验室没有利益绑定
- 出事时敢真正发声、有骨气的评估者难觅
另一位评论者补充称 AI 圈几乎人人都与 EA（有效利他主义）有渊源，进一步加剧独立性疑虑。
所属事件:METR 获更多前沿模型访问权，独立评估生态之争引热议(41 条相关)→
「安全」频道最新
- Tyler Alterman 谈黑客风暴恐慌：更接近 Y2K 而非疫情级灾难 — jd_pressman · 2026-10-31
- 「仅推理芯片」方案引激辩：训练中模型将被禁止 RL rollout — wfithian · 2026-10-31
- Railway 泄露密钥后，Every 团队用 Codex 与 Agent 化解危机 — every · 2026-10-31
- 学者激辩：更多推理算力可在一定程度上替代训练算力 — teortaxesTex · 2026-10-31
- OpenAI 收紧青少年保护：屏蔽武器与安防细节，可自动终止暴力话题对话 — rohanpaul_ai · 2026-10-31
- 首个 x86 全进程机器检验安全证明发布，覆盖 12.8 万条指令 — banteg · 2026-10-31