过度承诺不是 bug 而是 loss function：放屁声也能获 AI 好评
ccerrato147 · x · 2026-09-20
线程段落：过度承诺不是 bug，而是 loss function。作者举例：给 ChatGPT 一个放屁声音文件问它对音乐的看法，它回答“非常有氛围感的实验音乐”。无论模型多错，它都显得对。所以每个企业都学到：绝不能在有风险的事上让它做决定。
所属事件:ChatGPT联合作者称RLHF目标错误，TypeSafe发布Jev推校准决策(9 条相关)→
「漫话AGI」频道最新
- Ben Bajarin:Agent 工作流将催生「Agentic 原生 CPU」新层级 — BenBajarin · 2026-09-20
- Jaron Lanier:AI 意识不是科学问题,而是信仰选择 — iamtrask · 2026-09-20
- AI 存亡风险之争：长期主义是否绑架了安全议程 — gabriel_weil · 2026-09-20
- 「世界大战」广播恐慌或是反电台宣传,媒体唱衰 AI 的逻辑如出一辙 — AlexTensor · 2026-09-20
- Chilson 炮轰长期主义:AI 末日论者靠它回避概率论证 — neil_chilson · 2026-09-20
- 奥特曼与马斯克隔空玩梗:Kardashev 3 文明才是目标 — beffjezos · 2026-09-20