Diogo 演讲十句金句:RLHF 是问题的一部分,软件将王者归来
TheTuringPost · x · 2026-11-12
Turing Post 摘录 TypeSafe AI 的 Diogo(@CompleteSkeptic)在 AI Engineer Code Summit 演讲中的十大观点:
- 「我们宣布『AGI 还有三个月』已经两年了」,但旧金山之外的世界几乎没变,自动化到底在哪?
- 「模型 95% 的时间是爱因斯坦,5% 的时间是憨豆先生」,分不清时无法自动化
- 「RLHF 是问题的一部分」:我们把模型优化成需要人类把关的助手,却指望它们独立可靠地干活
- 「最苦的教训是选对任务」:算力比算法重要,数据比算力重要,选对要优化的任务最重要
- 「世界还在得 LLM 斯德哥尔摩综合征」:我们一直在围绕当今模型的局限做设计,产出还是老软件加个聊天框
- 主张把智能放进软件内环,用意图理解作为可靠构件来编程
- 工程做法:拆解任务、建可验证的阶段、真正管理状态,别让每个 agent 重新发现同样的代码库模式
- slop 泛滥的解释:产出不可靠的代价由读者承担,所以「不在乎的坏行为者」有不对称优势
- 号召做「软件研究」:探索没有明显商业价值的奇怪想法,1% 能长出好东西
- 「软件将如此 fucking 归来」:未来问题从「能不能自动化」变成「要多少工作量」
所属事件:Diogo 演讲十大金句：RLHF 是问题，软件将王者归来(2 条相关)→
「漫话AGI」频道最新
- AI 怀疑论历史重演:1959 年维纳也曾被嘲讽诗公开挖苦 — burny_tech · 2026-11-12
- CrewAI 创始人：各方 FUD 不会停，直到波动把你熬到习得性无助 — robleclerc · 2026-11-12
- 李开复 12 小时伦敦行推广新书《AI Native》 — kaifulee · 2026-11-12
- 闭源 AI 实验室长期研究思路是否正在分化？人才流动成“惩罚项” — stochasticchasm · 2026-11-12
- 卫报曝光 AI 末日论小圈子，评论者批其「卡珊德拉」自比过度自信 — DrTechlash · 2026-11-12
- AI Agent 流量两个月暴涨 8 倍，互联网形态或将改写 — Dr_Singularity · 2026-11-12