a16z 播客观点:LLM 足够聪明,问题是没被造成为软件里的可靠组件
venturetwins · x · 2026-09-29
@CompleteSkeptic 在 a16z 播客中提出:LLM 已经足够聪明,但自动化人类任务的程度远低于预期——原因不在智能,而在当前模型并非被设计为软件系统中可靠运作的组件。
核心论点:RLHF(基于人类偏好奖励的强化学习)奖励的是「人类喜欢的回答」,并不必然导向「把任务做完」。这与构建可靠自动化系统所需的确定性、可组合性存在错位。
「漫话AGI」频道最新
- 分析师判断:OpenAI 与 Anthropic 均难被杀死,互搏将延续到 ASI 之后 — teortaxesTex · 2026-09-29
- 「LLM 只是下一词预测器」？Reddit 热议背后的反例 — thekokoricky · 2026-09-29
- 综述论文越写越无聊?SynBio学者批当代评审文没观点像AI写的 — NikoMcCarty · 2026-09-29
- 「主动性与好奇心足以扛过智能爆炸」,转推者自嘲天真仍抱信念 — StewartalsopIII · 2026-09-29
- 个人 AI 助理终局战:分析师称只会在 Meta、OpenAI、Google 间决出 — RihardJarc · 2026-09-29
- 调试者的玄学观察:被注视的进程会开始优化你的注视 — sebpaquet · 2026-09-29