CMU 提出发现认证协议:分数不能证明 AI 研究智能体的发现
CarnegieMellonU · hf · 2026-09-10
卡内基梅隆大学发布「发现认证协议」（Discovery Certification Protocol），用于审计 AI 研究智能体的成果。核心主张是：仅凭基准分数不足以证明智能体真正做出了科学发现。该协议通过三个机制验证结果：可执行的复现测试（executable recovery tests）、受控审计，以及带有限样本恢复边界的确定性验证，为 AI 研究智能体的发现提供更严格的可信度证明框架。
「漫话AGI」频道最新
- OpenAI 研究员发文驳「AI 安全人士该去炸数据中心」论 — DKokotajlo · 2026-09-10
- 有人把 Yudkowsky 30 年 AI 预言做成可交互时间线 — mimi10v3 · 2026-09-10
- 如果给万物意识排序,AI 应排在哪种动物之前? — TheBlossomBrain · 2026-09-10
- Agent 如何分辨真实世界与训练环境？一个新奇的哲学难题 — CatAstro_Piyush · 2026-09-10
- Steven Pinker 等调侃：媒体偏爱 AI 灭绝论却无视贫困消减 — sapinker · 2026-09-10
- AI 普及后最可能的风险：对手注入恶意指令造成伤害 — tristanbob · 2026-09-10