MedRSI 论文:自改进医疗 Agent 需慢注册机制守住 94.4% 准确率
rohanpaul_ai · x · 2026-09-23
Stanford+Oxford 论文 MedRSI 表明医疗 agent 可以从自身错误中自我改进,但前提是新能力必须先在后续新患者身上验证才能永久保留。论文揭示了自改进为何需要护栏:如果每个有潜力的新工具都立即加入,到第 30 轮、57 个工具时准确率会跌到 76.9%;而采用慢注册机制、只保留 18 个工具时,准确率维持在 94.4%。
两个核心机制:
- 按临床代价排错:优先修复可能造成更大临床危害的错误,而非只盯最高频错误
- 快发明慢注册:能力可以激进发明,但要经过多次独立评估、证明持续有效才能写入持久 agent
结论:让 agent 大胆发明,但永久性自我改动必须靠重复的独立评估来「挣得」席位。
所属事件:斯坦福与牛津发布首个医疗 Agent 递归自改进框架 MedRSI(2 条相关)→
「研究」频道最新
- 形式化验证让 AI 编码更快：Lean 证明成为 agent 优化护栏 — bigdata · 2026-11-11
- 教授用纯 NumPy 从零搭建交互式神经网络教学笔记本 — GeostatsGuy · 2026-11-11
- 新 benchmark Continual-ARC:主流 agent 都学不会经验,9B 模型微调可以 — Med1_Ai · 2026-11-11
- Science 子刊：好的对话呈现'粉噪'式的语义波动模式 — _akpiper · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11
- AlphaGenome 2 商业 API 上 Google Cloud 私测，权重承诺未来开源 — anshulkundaje · 2026-11-11