一首诗让大模型陷入死循环：对抗性提示词耗尽算力

alexbilz · x · 2026-08-14

用户分享了一个名为“海绵示例”（Sponge Example）的案例，展示了一个对抗性诗歌（villanelle）如何诱导大模型陷入死循环。该诗歌表面上看似无害且带有性感、黑色电影风格，但会导致模型的思维链（CoT）无法收敛，推理过程不断重复“maybe, maybe, maybe...”，从而大量消耗目标算力资源。这揭示了当前模型在处理特定复杂文本结构时存在的脆弱性。