斯坦福 Zitnik：生物医学发现缺硬验证器，AI 科学家难闭环
marinkazitnik · x · 2026-09-01
Marinka Zitnik（斯坦福）讨论 AI 驱动的生物医学发现中「验证」为何是闭环的关键挑战：数学和程序搜索有证明检查器或测试套件，能低成本、实时精确地评估候选方案；生物医学没有这样的验证器。
她的三点主张：
- 训练要适应稀疏、延迟、有噪声的反馈，模型需要跨数周到数月的循环学习，并在单条推理轨迹与反复推理周期间做信用分配。
- 验证需要软硬两类：软验证器（模拟、代理模型、世界模型、检索系统、学习型裁判）可大规模引导；硬验证器直接检验生物系统，证据更强但仍是分级、有噪声、依赖上下文、昂贵且延迟的。
- 评估必须测试 AI 科学家能否闭环：只评估能否生成好假设不够，还要检验它能否选择信息量大的实验、修正假设、在结果与现有解释矛盾时改弦更张。
所属事件:闭环AI科学家瓶颈：生物医学验证难题待解(3 条相关)→
「漫话AGI」频道最新
- longevity 博主发问：哪一年机器能凭成果拿诺贝尔奖？ — rand_longevity · 2026-10-18
- 研究员调侃:大多数人类的思维链也过不了对齐训练 — robleclerc · 2026-10-18
- 长文：AI 把「考试型智力」变成最便宜的商品，剩下的判断力才值钱 — r0ck3t23 · 2026-10-18
- 吐槽人形机器人做家务是「偷懒」？网友：这就是目的 — VraserX · 2026-10-18
- 经济学家 Furman：AI 提效我乐观，企业能否盈利则难说 — sebkrier · 2026-10-18
- 分析562个AI PM岗位:拆成4种,最小众的Model PM中位数薪资34.5万美元最高 — aakashgupta · 2026-10-18