带记忆与递归的Transformer已非纯DNN,LLM架构之争再起

lateinteraction · x · 2026-08-06

针对近期社区对 LeCun 和 Marcus 批评“纯 LLM”的嘲讽,作者提出了更严谨的技术视角:现代配备了暂存区、上下文卸载、程序思维链(PTC)和递归机制的 Transformer,已经不再是传统意义上的纯深度神经网络(DNN)。

这种架构上的演进正是它们的能力能够超越仅经过 RLHF 微调的早期版本(如 GPT-4)的核心原因。作者呼吁在讨论模型能力边界时,应清晰区分不同的假设类,不应将系统架构的进化与传统的静态网络混为一谈。

所属事件:LLM架构之争:学者指带递归与工具的Transformer已非纯DNN(5 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →