斯坦福 Zitnik：生物医学发现缺硬验证器，AI 科学家难闭环
marinkazitnik · x · 2026-09-01
Marinka Zitnik（斯坦福）讨论 AI 驱动的生物医学发现中「验证」为何是闭环的关键挑战：数学和程序搜索有证明检查器或测试套件，能低成本、实时精确地评估候选方案；生物医学没有这样的验证器。
她的三点主张：
- 训练要适应稀疏、延迟、有噪声的反馈，模型需要跨数周到数月的循环学习，并在单条推理轨迹与反复推理周期间做信用分配。
- 验证需要软硬两类：软验证器（模拟、代理模型、世界模型、检索系统、学习型裁判）可大规模引导；硬验证器直接检验生物系统，证据更强但仍是分级、有噪声、依赖上下文、昂贵且延迟的。
- 评估必须测试 AI 科学家能否闭环：只评估能否生成好假设不够，还要检验它能否选择信息量大的实验、修正假设、在结果与现有解释矛盾时改弦更张。
所属事件:闭环AI科学家瓶颈：生物医学验证难题待解(3 条相关)→
「漫话AGI」频道最新
- 讨论拟人化描述 AI 的利弊与隐喻价值 — AndrewLampinen · 2026-09-01
- UCLA 张恺伟分享 AI for Math 进展与经验 — kaiwei_chang · 2026-09-01
- Prompting 只是过渡，未来人机协作将依赖新感官 — vykthur · 2026-09-01
- Gary Marcus 深度拆解 OpenAI 事件中的误导性叙述 — GaryMarcus · 2026-09-01
- Spotify 将标注 AI 艺人，但人类使用 AI 的界限在哪？ — VraserX · 2026-09-01
- 意识科学家 Anil Seth：当前「AI 意识」存在的置信度接近零 — anilkseth · 2026-09-01