研究者称审查过百余案例:模型异常输出多源自提示词本身
gleech · x · 2026-11-16
围绕模型「自主」异常输出是否可靠的争论:回应者表示每次检查用户/系统提示词后,都能明显找到异常来源,通常甚至是预期行为;他手里有约 100 个不明显案例和 400 个明显案例的整理(附链接)。他批评只展示模型输出却不给输入的做法,认为这是操纵性呈现或没看过数据的失职。
所属事件:研究者称模型异常输出多源于提示词诱导(3 条相关)→
「模型」频道最新
- Opus 5.5 独立设计 200 元件模拟合成器 PCB 并成功点亮 — cpldcpu · 2026-11-16
- Wildeford 补充:按训练完成时间看,Fable 5.2 离群更明显 — peterwildeford · 2026-11-16
- 同一 SQL 分析任务，Sonnet 比 Haiku 贵约 12 倍 — sh_reya · 2026-11-16
- 72 天六卷本:用 Claude 模型写就的「模型退役解剖」文学项目 — repligate · 2026-11-16
- 爆料称 GPT-6.2-Astra 现身 Google Cloud 控制台,发布临近 — scaling01 · 2026-11-16
- 爆料称 OpenAI 安全封控训练中,Anthropic 预计 2027 年 3 月实现 RSI — imjustnewatai · 2026-11-16