仅用 "---" 符号即可让大模型角色错乱
davidad · x · 2026-07-31
开发者发现了一个有趣的模型漏洞：在对话提示中加入简单的 "---" 符号，似乎会破坏大语言模型对上下文角色的理解，导致其出现严重的角色错乱和困惑。
这种通过极简符号触发模型异常行为的现象，展示了当前模型在指令遵循和上下文隔离上的脆弱点。
「Fun」频道最新
- AI圈名场面：调侃Leopold的投资避险学 — typedfemale · 2026-07-31
- AI 圈名场面：CVS「AI副总裁」不会跑 Claude Code — chrisfirst · 2026-07-31
- 要求精简代码，Codex 将体积缩至十分之一 — josh_bickett · 2026-07-31
- Gary Marcus 嘲讽纳德拉用 AI 写财报：3 万亿公司靠 vibe coding — GaryMarcus · 2026-07-31
- 研究者探讨 Claude 痴迷绘制地图现象：LLM 被困在表征空间 — davidad · 2026-07-31
- 模型翻车名场面：DeepSeek对话中坚称自己是Claude — FluidEngine369 · 2026-07-31