百余位 AI 专家联署公开信,为嵌入第三方评估定最低门槛
natolambert · x · 2026-09-18
AI Evaluator Forum 发布公开信,超过 100 位 AI 专家联署,回应前沿 AI 公司近期呼吁嵌入外部评估者的表态,提出第三方评估的最低条件:
- 独立性:评估组织不得由前沿 AI 公司拥有或治理,不得与其有重大商业往来,不得接受与结论挂钩的报酬;评估者须保持完整编辑控制权。
- 多元视角:在多个优先风险领域嵌入多家评估组织,并允许公开评估者之间、评估者与公司员工之间的结论分歧。
- 透明度:评估方法、发现、访问权限与条款须透明,公司应主动配合,包括限制 NDA 范围。
- 员工级访问与报复保护:评估者须获得相当于员工的系统访问级别,并受保护免因不利发现遭报复。
Nat Lambert(联署人之一)表示,真正的瓶颈在于找到同时具备技术能力与独立性的评估者,该论坛是建立初步势头的良好起点。公开信强调:欢迎公司呼吁监督,但关键在于后续行动,实验室须对落实这些条件负责。
所属事件:百余位 AI 专家联署公开信，为嵌入式第三方评估立门槛(2 条相关)→
「漫话AGI」频道最新
- Peter Diamandis:不劝学生退学,但要审视上大学的惯性 — PeterDiamandis · 2026-09-18
- 纽约时报诉 OpenAI 曝未删节文件:微软高管称训练是「史上最大盗窃」 — StefanoGogioso · 2026-09-18
- 安全老将:有实绩的黑客不是「无名之辈」,AI 正拉平人才竞争 — chrisrohlf · 2026-09-18
- 李飞飞：Agent 可以是 AI，但 agency 属于人类 — drfeifei · 2026-09-18
- Big Short 投资人：AI 实验室无护城河，靠制造恐慌换监管垄断 — SumitGup · 2026-09-18
- Bremmer 断言:全球头部 AI 公司仍在"油门踩到底" — GaryMarcus · 2026-09-18