圣塔菲把LLM当认知病毒:过临界点后能力从1掉到0.425

Large-Language Models as a Cognitive Virus

Ricard Solé, Giulio Ruffini, Francesca Castaldo, Marco Tuccio, Luis F. Seoane, Manlio de Domenico, Santiago F. Elena, David C. Krakauer, Michael Levin

physics.soc-ph, cs.CY, nlin.AO, q-bio.PE

2026-09-03

用三态流行病模型把LLM使用分成未接入、自主使用、持久依赖。当社会传播率越过λ=0.50,群体认知能力从1骤降到约0.425,回退必须把传播率压到0.40以下。

这篇在解决什么

个体层面已经有证据:LLM 可以当脚手架,也可以当替代品。脚手架是先自己想、再对照模型,任务撤掉后能力还在;替代品是模型直接把合成、评价、写作做完,人只剩验收。论文引用的教育实验里,无约束使用 ChatGPT 能抬高当时成绩,撤掉工具后独立表现会掉;「先想再问」的协议则能保住后续创造力。

缺口在群体。学校、公司、平台一旦把 LLM 用法定成默认路径,独立读写和核验就不再被日常练习撑着。个人用得爽,不等于人群还保得住自主能力。这篇来自庞培法布拉大学复杂系统实验室、圣塔菲研究所,以及 Tufts 的 Michael Levin 等人,把这件事写成流行病模型。要问的是什么样的耦合会在人群里锁死,不是该不该用。

方法

人群被切成三态,加起来归一。

四个速率管流动。λ 是社会、制度和平台暴露,把人从 U 推进 C。ρ 是放弃使用,退回 U。μ 是常规使用滑向依赖。σ 是训练、核验习惯或刻意认知摩擦,把人从 D 拉回 C。另外加了一项 κU²C:独立认知被写成一种互惠,周围未接入的人越多,已经在用的人越容易被拽回去。这是生态学里 Allee 效应的写法,保护强度跟着未接入比例的平方走。频率低了,学校和职场里「自己先想」的规范就撑不住。

模型不追踪模型权重怎么进化,只追踪人这一侧的耦合状态。平均认知能力 Γ 被定义成「工具撤掉后还剩多少」,不是人机系统合在一起能干什么。示意赋值是 Γu=1、Γc=0.5、Γd=0.1。脚手架场景里这个排序可以反过来,论文自己写明了这是建模假设。

结果

取 ρ=0.10、κ=0.40、μ=0.20、σ=0.10。未接入态在 λ 小于跨临界阈值 λTC=ρ+κ=0.50 时一直稳着。耦合态在鞍结阈值 λSN=2√(κρ)=0.40 处就已经出现。中间这一截 0.40<λ<0.50 是双稳态:历史决定你停在哪边。

从几乎全员未接入往上推 λ,人群会一直挨到 0.50 才垮。垮了之后把 λ 降回 0.49 不够,必须压到 0.40 以下才会回来。迟滞宽度是 (√κ-√ρ)²。κ>ρ 才会出现这种锁死;κ<ρ 时过渡是连续的,两个阈值在 κ=ρ 处合并到 λ=2ρ。

示意能力跟着同一套分岔走。耦合人群的有效能力 g=(Γcσ+Γdμ)/(μ+σ)=7/30≈0.233。λ 越过 0.50 时,群体平均能力从 1 掉到约 0.425;回程在 λ=0.40 处能力约 0.617,然后跳回 1。Maxwell 点大约在 λ=0.420,两边势阱一样深,但系统仍可能卡在高能力阱里,直到这个阱在 0.50 消失。论文把这幅图比成弹珠滚下山:过了临界点,依赖会自我加强。

μ 和 σ 不移动两个临界点,只决定耦合人群里有多少是 D:D/(C+D)=μ/(μ+σ)=2/3。把 μ 压低或把 σ 抬高,采用率可以不变,依赖比例和能力损失会变。

为什么重要

这是一套概念模型,不是新的实验发现。对从业者的用处是把「用着用着回不来」写成可讨论的阈值,而不是给出可校准的政策数字。

预防比逆转便宜。λ 还没过 0.50 时,限制自动接入、保留无辅助任务、维持非 LLM 技能,都能把入侵挡在门外。一旦锁进耦合吸引子,同样的 λ 已经不够把人拉回来。这就是技术锁定的动力学版本。

干预分两层。λ、ρ、κ 改的是分岔地形。把 ρ 抬到不低于 κ,双稳态会消失,过渡变成连续。κ 单独加大能提高入侵门槛,但也会把迟滞区间拉宽,自主人群一旦被抽空就更难回来。μ、σ 改的是耦合态有多伤:核验要求、周期性无辅助练习、任务设计里模型辅助而不是代劳,针对的是 C 滑向 D,不是禁止使用。

论文把这叫 cognitive immunization,认知免疫。免疫不等于隔离模型。目标是让高采用率和核验、主动推理、可逆依赖同时成立。已经滑进持久依赖的个体,教育设计可能不够,论文点到行为调节和认知行为治疗,没有模型内的数字。

局限与存疑

整篇是平均场常微分方程,参数是为画出分岔选的,没有用真实采用数据拟合。Γ 的三个数字是示意,不是测出来的。临界点位置对 ρ、κ 敏感,对 μ、σ 不敏感,这个「不敏感」本身是最小模型的产物,不能直接当政策不变量。

网络异质性、空间结构、认知自主性的连续变化、行为对传播的反馈,论文都列成未做。模型也不决定真实时间里转变有多快。引用的教育实验撑得住脚手架和替代这个区分,撑不起「人类社会已经靠近 λ=0.50」。把流行病语言用在认知上,容易被读成 LLM 本身是病原体。论文反复说类比针对的是耦合反馈,生物病毒从病原到互利都有。读的时候要把这层比喻和那组示意数字分开。

术语

原文与代码

社区讨论

相关论文

全部论文解读