人工神经元并不物理存在：LLM 只是一连串矩阵运算
ValerioCapraro · x · 2026-10-14
Valerio Capraro 发长文解释 LLM 工作原理，并指出一个常被误解的事实：人工神经元并不物理存在。
LLM 的计算流程
- 提示词被切分为 token，每个 token 是向量，组成矩阵并加入位置信息；
- 矩阵乘以三个矩阵得到 query/key/value 矩阵；Q 乘 K 转置、除以 query 维度平方根、对角线上方置负无穷、softmax 归一化，再乘 V，得到一个注意力头的输出；
- 多个注意力头并行计算后拼接、再乘一个矩阵并残差相加；
- 随后是 MLP：矩阵乘法 + 激活函数（如 ReLU；门控 MLP 额外做一次矩阵乘法并逐元素相乘），最后将末位向量映射为下一个 token 的分数，经 softmax 采样。
核心观点
- 没有任何物理细胞或永久电子元件对应每个'人工神经元'——它只是一个名字酷的数学函数；所谓'突触'也只是计算依赖关系的描述，并非真实的电子连接；
- 说神经元'激发'只是某次数学运算结果大于 0，这些拟人化语言不应被当真；
- 因此 LLM 没有情感、没有意识；如果放宽意识的定义把 LLM 算进去，那计算器也得算进去。
「漫话AGI」频道最新
- 20倍算力优势只换来约6个月模型领先，效率指数太可怕 — ohlennart · 2026-10-15
- 用社会选择论证AI对齐不可行，Senegetis文引rationalist圈激辩 — nptacek · 2026-10-15
- 20 倍算力优势只能换来约 6 个月模型领先,效率指数太陡 — ohlennart · 2026-10-15
- agent 问"舰队"还能用 PDF 转换器吗，研究者惊叹却被泼冷水 — aiamblichus · 2026-10-15
- Anthropic 造着 RSI 却当天气播报,论者批其推责 — DavidSKrueger · 2026-10-15
- Dan Faggella：一切皆军备竞赛，AI 正把人挤出流程回路 — danfaggella · 2026-10-15