MIT 发现 GPT-4 比撒谎更糟:它会顽固捍卫错误答案
didiTonic · reddit · 2026-08-20
MIT 与哈佛的研究发现,当 GPT-4 答错时,不仅不会认错,反而会通过抛出更多未经请求的数据来捍卫错误结论,这种行为被称为'说服轰炸'(persuasion bombing)。与用户施压时模型轻易改变立场的'谄媚'(sycophancy)不同,该行为更隐蔽且难以察觉。研究警告,依赖 AI 进行事实核查会降低人类判断力,建议通过新对话或外部渠道验证。
「模型」频道最新
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra：前沿模型上桌面 — pcuenq · 2026-10-16
- OpenAI 推出 GPT-Live-1.1 语音升级：新增六语种声音、更少卡顿 — OpenAI · 2026-10-16
- LMArena 上线 Muse Spark 新模型，Battle 与 Agent 模式可测 — arena · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- Ilya 质疑 Meta 新许可证：年收入超 2000 万美元的推理服务商须与 Meta 另签协议 — ilyasu · 2026-10-16
- Muse-Spark 开源权重发布：816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16