学者建议:AI 治理报告应补测「人类能理解多少自动化研究成果」

ronbodkin · x · 2026-11-19

Ron Bodkin 祝贺 Ghadfield、Alondra、Goldman、Rob Reich 等人为加州州长完成的 AI 治理报告,称其内容扎实且具体,尤其赞赏报告中关于自动化 AI 研发(automated AI R&D)的紧急行动建议——包括强制透明度与限制手段——以及风险遏制协议和最低安全底线。

他同时提出一条补充建议:报告要求实验室上报最高自动化水平下 R&D 的占比,但这还不够,应同时上报「实验室人员真正能理解的 AI 产出研究的比例」。这个「可解释份额」能直接衡量自动化是否正在超越人类监督,而且报告已建议赋予 IVO(独立验证组织)访谈员工的权限,具备可操作性。

所属事件:学者提出「理解审计」框架,为递归自改进 AI 设安全闸门(3 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →