长对话中的“上下文投毒”:越纠正错误,模型反而越固执
ClickOk5811 · reddit · 2026-08-08
在长对话中,如果你纠正模型的错误,这种纠正可能适得其反。因为围绕错误的来回讨论增加了相关 token 的权重,模型会将已被反驳的观点视为“多次提及的既定事实”。
这意味着在长会话中反复解释,可能比开启全新对话并仅提供一次正确信息的效果更差。
「模型」频道最新
- Claude Code 误判网络安全内容,强制清空用户工作进度 — ivan_bezdomny · 2026-08-08
- OpenAI 研究员将详解 HF 事件与模型错位 — mobav0 · 2026-08-08
- 预测市场押注 Anthropic 下月发布新模型概率达 64% — Polymarket · 2026-08-08
- 开源医疗AI项目OpenMed登顶GitHub Trending — MaziyarPanahi · 2026-08-08
- DeepSeek级联方案实测:编码任务胜率超GPT-5.6且成本降37% — togethercompute · 2026-08-08
- 用户关掉记忆仍被读心?ChatGPT 疑似无视设定 — flowersslop · 2026-08-08