Gemma 模型被纠错拼写后道歉，却整场会话 compulsively 复发错误

adariostrange · x · 2026-10-04

用户分享了一个 Gemma 模型的经典翻车案例：他发现模型拼错一个单词，纠正后模型道歉并给出正确拼写，还自嘲了一句。但接下来整场会话中，模型却控制不住地在后续回答里反复插入这个拼错写法，形成「毁灭循环」（doom loop）。

在后续补充中他指出，模型在算法层面「知道」自己在插入错误并持续道歉，却停不下来；更大的模型一般能避免这类小故障，但亲身体验这类现象有助于理解当前模型的机制与局限。