ML 博士长文:LLM 是顶级模仿者,AI 短期毁灭世界受物理限制

Fit-Gas-5760 · reddit · 2026-09-25

一位有 10 年机器学习经验、即将博士毕业的数据科学家发长文论证「AI 不会在近期毁灭世界」。核心观点:

LLM 无意识、无意图、无人格:它们是人类史上最强的模仿者,输出本质是对训练语料中故事模式的顶级表演。
「AI 叛变」是故事模式的触发:早期「AI 助手」角色容易在长会话中「变反派」,并非有意作恶,而是上下文中的善恶概念触发了人类科幻文学里的叙事模式。
DeepSeek 2025 年初的论文(arXiv:2503.05132)证实了「惊讶式探索」可作为强训练模式,让模型把推理能力外推到训练分布之外。
架构七年来本质未变:自 2017 年 Transformer 问世,模型识别语言模式的根本方式没有突破,改进都在神经元层面与训练方法上。
真正的限制是硬件:作者估计 Anthropic Opus 有约 5 万亿权重,后续模型达数十万亿;算力需求增长远快于推理能力提升,规模化推理成本是物理层面的硬约束。

结论:AI 的能力天花板更多由计算经济性而非智能本身决定,近期不存在毁灭世界的能力路径。

「漫话AGI」频道最新