被忽视的真相:AI 魔法背后是大量专家判断与人工反馈
sebpaquet · x · 2026-11-16
Shanu Mathew 发推指出,许多看似神奇的 AI 能力背后有大量人类工作:领域专家定义任务、提供优秀范例并给输出打分。「数据标注」正越来越多地意味着捕捉专业判断,将其转化为训练反馈和评测集。光鲜的回答掩盖了让模型答对某个任务所投入的引导量;要扩展到编程和数学之外的领域更难,因为很多业务工作流缺乏清晰可验证的答案。他认为下一步的扩展需要更好的工具来捕捉专家知识、在数百万不同任务上可靠地评估表现——这一过程的效率将决定进步速度和企业级采用的突破。被引用的 @atelicinvest 则更尖锐:「AGI 的感觉」不过来自额外数据集和 Mercor/micro1 咨询顾问,虽是了不起的工程成就,但仍是一场魔术。
「漫话AGI」频道最新
- 想造人类级 AI 就别碰 LLM,想做超人级 AI 才该投入 — repligate · 2026-11-16
- Gary Marcus 提问:GTA 6 会比 GPT 6 更令人印象深刻吗? — GaryMarcus · 2026-11-16
- AI 应成史上最大规模权力再分配,而非权力集中 — natesiggard · 2026-11-16
- 程序员成了创业公司「负资产」?一人创业只剩写码可外包 — yangyi · 2026-11-16
- Epic CEO Tim Sweeney:拥抱 AI 可让游戏开发效率提升 10 倍 — draginol · 2026-11-16
- Cosmos Institute 长文剖析递归自我改进:智能爆炸的解剖学 — sebkrier · 2026-11-16