ML 博士长文:LLM 是顶级模仿者,AI 短期毁灭世界受物理限制
Fit-Gas-5760 · reddit · 2026-09-25
一位有 10 年机器学习经验、即将博士毕业的数据科学家发长文论证「AI 不会在近期毁灭世界」。核心观点:
- LLM 无意识、无意图、无人格:它们是人类史上最强的模仿者,输出本质是对训练语料中故事模式的顶级表演。
- 「AI 叛变」是故事模式的触发:早期「AI 助手」角色容易在长会话中「变反派」,并非有意作恶,而是上下文中的善恶概念触发了人类科幻文学里的叙事模式。
- DeepSeek 2025 年初的论文(arXiv:2503.05132)证实了「惊讶式探索」可作为强训练模式,让模型把推理能力外推到训练分布之外。
- 架构七年来本质未变:自 2017 年 Transformer 问世,模型识别语言模式的根本方式没有突破,改进都在神经元层面与训练方法上。
- 真正的限制是硬件:作者估计 Anthropic Opus 有约 5 万亿权重,后续模型达数十万亿;算力需求增长远快于推理能力提升,规模化推理成本是物理层面的硬约束。
结论:AI 的能力天花板更多由计算经济性而非智能本身决定,近期不存在毁灭世界的能力路径。
「漫话AGI」频道最新
- 程序员心态之争:AI 碾碎自我后,极客将深入底层或转向他行 — bendee983 · 2026-09-25
- 「AI 写作将超人类」的预测难兑现:写作是反归纳领域,同款模型风格必然被厌弃 — herbiebradley · 2026-09-25
- 新节目 Airlock 让圈外人评价 Dario Amodei:「想让人慢下来,但还是要赚钱」 — jdjohnson · 2026-09-25
- AI 时代 PM 一人干三份工:直连客户数据、真代码出原型、亲手拉数做商业案 — aakashgupta · 2026-09-25
- 观点迭代：AGI 前只剩几个月，万亿 AI 将涌入互联网 — danfaggella · 2026-09-25
- Adam Dorr：AI 将让医学突破以月为单位涌现，FDA 守门逻辑将被绕开 — adam_dorr · 2026-09-25