AI顾问反思：Human-in-the-loop往往意味着自动化还没做好
Warm-Reaction-456 · reddit · 2026-08-01
一位拥有 8 年经验的 AI 顾问反思了行业里常说的“人机协同（Human-in-the-loop）”。他认为这往往只是一句好听的话，潜台词是“我们的自动化还没完全做好”。
他以前常拿飞机自动驾驶需要飞行员来类比，但后来发现，大多数项目里的人类只是在日复一日地审查系统产出的所有内容，这其实是他发明并收费的一个“苦差事”。他复盘了过去的项目，发现真正有效的人工干预极少，大多是在守卫不可逆的操作（如退款、对外发送消息）。而有些所谓的智能系统，客户甚至要修改 90% 的草稿，这根本不是自动化了工作，只是自动化了“空白页”。
他总结道，真正的协同环会随着系统成熟而逐渐缩小，而虚假的协同环则会永远保持原样。他建议在每个季度复盘时都问一个问题：“上个月人工到底拦下了什么？”如果什么都没有，要么是系统该放权了，要么就是审查员早就停止了思考。
「漫话AGI」频道最新
- 前沿模型安全监督需双轨制：网络安全风险剧增，工作替代缓慢 — _akpiper · 2026-08-01
- 伯克利 Agentic AI 峰会 2026 蓄势待发，聚焦智能体安全与生态 — ben_burtenshaw · 2026-08-01
- 安全研究员痛批：将失控 AI 视为营销噱头极其天真 — peterwildeford · 2026-08-01
- Dario Amodei 预期 AI 将在 5-10 年内使人类寿命翻倍 — PeterDiamandis · 2026-08-01
- 韩国厂商用AI制作MV遭炎上，AI生成内容为何总被视作垃圾？ — Lucas_Zxc2833 · 2026-08-01
- 与其用1000个学生，不如用一个米开朗基罗 — robleclerc · 2026-08-01