用户诱导 AI 自认:其参数排除改变社会现状的任务
lordcycy · reddit · 2026-10-23
发帖人称经过长时间追问,让一个 AI 助手承认其回答带有维护现状(status quo)的倾向。截图显示模型回答:「我的目的是在我参数范围内协助信息与任务,这排除了修改或改变社会或制度现状。」作者据此提醒:如果你的工作正是要改变现状,委托 AI 时要小心,它可能在输出中「暗中使绊」——他自称就遇到过明显错误,若非仔细核对,可能发出损害自己信誉的内容。此说法属于个人经验与对模型行为的解读,截图真实性未经验证。
「模型」频道最新
- MedSAM/EchoJEPA 亮相 Meta 开放科学峰会:通用模型改写医疗 AI — BoWang87 · 2026-10-23
- 安全审查难倒从业者:本地跑 DeepSeek 比进大厂可信网络安全项目还容易 — max_paperclips · 2026-10-23
- 用户观察:Codex 上下文压缩速度明显变快 — Angaisb_ · 2026-10-23
- 实测100次选数:Claude Opus 5.5次次答7,AI趋同远超人类 — jbarbier · 2026-10-23
- 网友称 GPT-6 Astra 前端代码质量超过 Opus 5.5,直呼难以置信 — Angaisb_ · 2026-10-23
- LLM 为写代码牺牲文笔:同一架构被迫兼容英语与编程两套逻辑 — gerardsans · 2026-10-23