百余位 AI 专家联署公开信,为嵌入第三方评估定最低门槛
natolambert · x · 2026-09-18
AI Evaluator Forum 发布公开信,超过 100 位 AI 专家联署,回应前沿 AI 公司近期呼吁嵌入外部评估者的表态,提出第三方评估的最低条件:
- 独立性:评估组织不得由前沿 AI 公司拥有或治理,不得与其有重大商业往来,不得接受与结论挂钩的报酬;评估者须保持完整编辑控制权。
- 多元视角:在多个优先风险领域嵌入多家评估组织,并允许公开评估者之间、评估者与公司员工之间的结论分歧。
- 透明度:评估方法、发现、访问权限与条款须透明,公司应主动配合,包括限制 NDA 范围。
- 员工级访问与报复保护:评估者须获得相当于员工的系统访问级别,并受保护免因不利发现遭报复。
Nat Lambert(联署人之一)表示,真正的瓶颈在于找到同时具备技术能力与独立性的评估者,该论坛是建立初步势头的良好起点。公开信强调:欢迎公司呼吁监督,但关键在于后续行动,实验室须对落实这些条件负责。
所属事件:百余名AI专家联署公开信：为嵌入式第三方评估立五项门槛(10 条相关)→
「漫话AGI」频道最新
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04
- Joscha Bach 讲两岁梦境：巧克力还在，真实感没了 — Machine Learning Street Talk · 2026-11-04
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04