「生成漂移」是不是 AI 的根本缺陷?Reddit 引发可靠性争论

Peacefulhuman1009 · reddit · 2026-11-07

Reddit 帖子探讨「生成漂移」(generative drift):让 AI 精确复刻同一图像 50 次、每次输出回灌系统,最终可能得到完全不同的结果。发帖人由此追问更大问题——当 AI agent 基于 agent 输出做决策时,一个小错误会被当作事实放大,整条链路随之跑偏。

核心争议:概率性 AI 系统在没有独立验证的情况下能否真正可靠?这是必须学会共处的架构性缺陷,还是可以通过验证机制缓解的问题?评论区围绕误差累积、验证层设计与 agent 系统的可靠性展开讨论。