被忽视的真相:AI 魔法背后是大量专家判断与人工反馈

sebpaquet · x · 2026-11-16

Shanu Mathew 发推指出,许多看似神奇的 AI 能力背后有大量人类工作:领域专家定义任务、提供优秀范例并给输出打分。「数据标注」正越来越多地意味着捕捉专业判断,将其转化为训练反馈和评测集。光鲜的回答掩盖了让模型答对某个任务所投入的引导量;要扩展到编程和数学之外的领域更难,因为很多业务工作流缺乏清晰可验证的答案。他认为下一步的扩展需要更好的工具来捕捉专家知识、在数百万不同任务上可靠地评估表现——这一过程的效率将决定进步速度和企业级采用的突破。被引用的 @atelicinvest 则更尖锐:「AGI 的感觉」不过来自额外数据集和 Mercor/micro1 咨询顾问,虽是了不起的工程成就,但仍是一场魔术。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →