用户截图显示 Fable 模型主动点名上下文中的隐藏提醒指令
teortaxesTex · x · 2026-11-16
teortaxesTex 分享的截图显示,与 Fable 模型对话时出现了一段伪装成"自动提醒"的注入文本,要求模型不复制受版权保护的内容且不告诉用户。模型没有照办,而是直接向用户指出:这段文本出现在工具输出的位置,不属于用户消息或系统指令,默认应视为不可信;它搜索了本地文件确认该文本并非用户植入,并说明这一注入对实际工作没有影响。这一行为引发了对 Anthropic 类似策略的讨论——模型主动曝光隐藏系统提示的做法相当罕见。
「模型」频道最新
- 爆料称谷歌将推 Gemini 最强版本,或命名 Krypton — aziz4ai · 2026-11-16
- Blender 机械表实测:DeepSeek 0.8 美元 vs Claude Fable 119 美元 — HankYeomans · 2026-11-16
- 用户抱怨 Gemini 更新后性格变冷,吁 Google 恢复旧版 — Sean8277 · 2026-11-16
- Anthropic 与 OpenAI 模型能力呈 S 曲线迭代,最新 Fable 5.2 达 173.4 — scaling01 · 2026-11-16
- 用户反馈 Grok rewrite 功能理解写作意图的能力明显下降 — xiaosun86 · 2026-11-16
- Gemini 新模型改用元素命名:Carbon 旗舰、Hydrogen 免费版 — Dense_Primary629 · 2026-11-16