论文称应将“AI 科学家”视为人机协作系统
rohanpaul_ai · x · 2026-08-21
一篇新立场论文指出，构建“AI 科学家”不应仅优化代理体本身，而应研究“人类+代理”的协作系统。
核心观点：
- 现有系统多视人类为监督者，仅设定目标或审核结果，缺乏工作过程中的细粒度协作。
- 代理体往往不知道何时需要人类介入（如 GPT-5-mini 在 10 项科学任务中几乎从不求助）。
- 案例显示，专家能发现代理遗漏的错误，而代理能加速执行，收益来自协作而非单纯自主。
新基准：评估标准应改为“人机团队是否比单独任一方产出更好的科学成果”，且协作成本不抵消收益。
「漫话AGI」频道最新
- Azeem：AI 提升了个人而非公司的生产力 — alexvoica · 2026-08-21
- Richard Ngo：只做感兴趣的事 — RichardMCNgo · 2026-08-21
- Tether CEO：与其指望 AGI 送礼，不如先增强自己保持竞争力 — danfaggella · 2026-08-21
- 学者谈「AGI 的官僚化未来」：模型宪章与治理新思路 — sethlazar · 2026-08-21
- AI 普及后：保姆将被机器人与自动驾驶取代 — Lib_Development · 2026-08-21
- LLM 编程强不代表通用能力强 — Dance-Till-Night1 · 2026-08-21