CarbonForge 用 e-values 防止 Agent 科研自我欺骗

CarbonForge（去年冬由 Pierre-Luc Bacon 等人创立，目标是让 AI 推理更高效省电）发布长文，讨论如何防止自主选择实验的发现型 Agent 造假发现。其 EvidenceTree 方案针对 agent 善于探索但不善严谨证伪的问题，通过严格管控对数据和确证证据的访问、用 e-values 施加统计纪律，防止系统作弊或走捷径宣称发现。该公司称接入实验室闭环后，agent 已能端到端持续改进自家技术栈。

2026-10-15 ~ 2026-10-15 · 3 条相关

• CarbonForge 揭秘:用 e-values 防止发现型 Agent 自我欺骗 — pierrelux · 2026-10-15
• Agent 科研的瓶颈是验证：这家公司用 e-values 防「假发现」 — pierrelux · 2026-10-15
• EvidenceTree 用 e-values 给 Agent 实验上统计纪律，防虚假发现 — pierrelux · 2026-10-15