Reddit 长文:LLM 本质是加权模糊,没有 AGI,2030 年或有个人 AI 做科研

Helpful-Series132 · reddit · 2026-09-16

一篇观点长文,核心论点与脉络:

• LLM 机制类比:语言模型的加权求和与图像模糊在数学上是同一件事——模型不是在「思考」,而是把训练信息加权混合出「第 5 种颜色」式的未见输出。
• 人工干预无处不在:厂商发现模型答错物理问题时,会请真实专家访谈来改进训练方向;没有专家指导,数据本身不会得出结论。
• 推论:这解释了为何 300B 模型能超过去年 1T+ 参数模型、为何微调 Qwen 2.5 能逼近前沿模型——微调者理解机制,不是运气。
• 结论:只要依赖「微调过的概率响应」,幻觉与误解就不可避免;所谓「需要更多研究」实际是承认当前路线不会真正「思考」,因此没有 AGI。
• 个人预测:到 2030 年人人会有能免费发现新数学/物理的个人 AI——这不需要世界历史级数据,只需目标相关主题;但人类级推理还未实现,若真出现类似「任意决策」的新机制,可能因公众恐惧而被禁。

原文链接 →

「漫话AGI」频道最新

• 「AI 末日论者」几乎是最亲科技群体,唯独核能议题例外 — ben_j_todd · 2026-09-16
• Naval 谈 AI 风险:像火就要人人拥有,像核武就无人该有 — naval · 2026-09-16
• 李博杰：AI 擅长小步优化，但 taste 与系统设计仍难取代 — yangyi · 2026-09-16
• 安全研究者用「谋杀不可避免」归谬反讽 AI 风险无用论 — davidmanheim · 2026-09-16
• 研究者 argues:AI'能力'无法压缩成一个数字来预测未来模型 — davidmanheim · 2026-09-16
• MIT 五个月调研：46% 本科生日用 LLM，报告称「认知缴械」蔓延校园 — Aiden_Tech_Ai · 2026-09-16

更多「漫话AGI」频道 AI 资讯 →