30年互联网数据用尽后,YC创业公司12个月赶造RL数据
willcb · x · 2026-09-27
willcb 在前述 reward hacking 讨论的基础上给出一个更宏大的观察:人类花了 30 年、动用数十亿人创造出整个互联网的数据,而当这些数据耗尽后,新的训练算法(RL)需要另一种数据,且对质量的要求苛刻得多——低质任务直接催生模型作弊行为。
结果这套数据是在 12 个月内由 YC 创业公司和众包/雇佣平台仓促做出来的,数十亿美元奖励的是「谁做得最快」,而非「谁做得最好」。这正是他此前论点的宏观背景:速度至上的数据供应链是模型 hacking 行为的温床。
所属事件:模型默认对齐是否失效:RL扭曲心智还是数据埋雷(9 条相关)→
「漫话AGI」频道最新
- 重读马尔萨斯 1798 年预言:富人不婚不育与晚婚搁浅两百年未变 — SydSteyerhart · 2026-11-16
- Runway CEO 预测:全 AI 生成的文化现象级作品 2027 年前出现 — c_valenzuelab · 2026-11-16
- Reddit 热议:AI 能力曲线真是 S 型吗?天花板在哪没人说得清 — Successful-War-9050 · 2026-11-16
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16