LLM 不是编译器也不是工具
blainehansen · hn · 2026-07-20
一篇长文在反驳“LLM 像编译器/电动工具”这种类比。
作者认为，这类类比会夸大 LLM 的可靠性和精确性。编译器是在明确语言规范下做确定性转换，电动工具则是在物理世界中以可预测方式放大人的能力；而 LLM 本质上是概率系统，可能说得很像对的，但仍然出错。因此，如果把它们当成传统工程工具来理解，容易对正确性、安全性和工作流设计产生错误预期。
文章最后强调：LLM 应该被视为一种不同类型的技术——很有用，但必须依赖验证、监督和上下文。
「漫话AGI」频道最新
- Bindu Reddy 认为行业还不会训练 20T 级模型并规模化后训练 — bindureddy · 2026-07-22
- 教授提醒：最先进的大模型正变得无法相互替代 — emollick · 2026-07-22
- AI 发展的瓶颈：从互联网数据红利到高质量反馈闭环 — dyamins · 2026-07-22
- 学者反思 90 年代曾批 Kurzweil 的 Scaling Law 是错的 — davidmanheim · 2026-07-22
- 作者认为，AI 还远没到成熟平台期 — generativist · 2026-07-22
- 长文称 LLM 更像外化元认知，而非独立智能 — lnsip9reg · 2026-07-22