研究者提出人机协作实验循环:AI 出方案、人类执行、全程可观测纠错
suragnair · x · 2026-09-25
研究者 suragnair 提出一种让 AI agent 参与真实科学实验的渐进式方案:
- 协作循环:给 agent 一个科学问题,它建议下一步,由人类(而非机器)执行操作,重复迭代直到产出可验证的最终结果——例如生物实验可通过质检(QC)结果检验产出。
- 全观测纠错:在大规模部署传感器和摄像头实现完全可观测后,可以把失败归因到 agent 错误、人类错误还是环境错误(如温度过高),agent 随时间学习各要素间的相互作用,逐步提升实验执行能力。
在与斯坦福教授 Anshul Kundaje 的讨论中,双方还确认:由于物理世界中的错误动作可能损坏设备、伤害操作者,初期的执行者须是能对危险操作进行干预的人类专家,相当于给 agent 加一道安全 oracle。
「编程与Agent」频道最新
- Stream 推出 Agent Skills:一条命令让编码智能体搭出聊天视频应用 — amos_gyamfi · 2026-09-25
- NVIDIA 开源 Nemotron-Terminal:Qwen3-32B 终端基准成绩从 3.4% 飙至 27.4% — _weiping · 2026-09-25
- 处理 AI 多源信息冲突的 5 种方法:从源分级到坦诚呈现分歧 — goyalshaliniuk · 2026-09-25
- TypeLLM 不改模型权重,用 JSON Schema 为 LLM 实现类型安全输出 — kalyan_kpl · 2026-09-25
- kuberdenis 对话 alxfazio 聊 harness 工程与开发工作流,视觉素材全由 Opus 5.5 生成 — tensorqt · 2026-09-25
- Agent 工厂五大常见错误：微观管理、缺质量标准与「提线木偶戏」 — hugobowne · 2026-09-25