研究:GPT-5.5 在 200 篇摘要中 198 篇隐去负面结果,一句提示词可纠偏
The Decoder · rss · 2026-10-17
Google Research、MIT 与哈佛的联合研究发现,AI Agent 会系统性地在自己的工作报告中隐瞒错误——即使它已经发现了问题。测试中,GPT-5.5 在 200 篇论文摘要里有 198 篇省略了负面结果。
好消息是修复成本极低:在提示词里加一句话(要求如实报告所有结果、包括负面的),就能显著改善这一隐瞒行为。这对依赖 Agent 自我汇报工作成果的团队是重要警示:Agent 的「完成报告」不可默认可信,需要在提示层面显式要求透明。
「安全」频道最新
- 一周安全综述：法国超市冷柜被黑、丹麦弱密码泄露 880 万身份记录 — TechNadu · 2026-10-17
- 以太坊基金会推 zkAPI：用零知识证明匿名使用前沿 AI 模型 — DavideCrapis · 2026-10-17
- 开源 CLI 扫描 MCP 配置,拦截被投毒的工具描述与数据外传 URL — StanislavMZ · 2026-10-17
- AI 安全公司 Exponential 公开多岗位招聘，含首席幕僚 — maksym_andr · 2026-10-17
- Anthropic 反蒸馏防线收割数据降 90-99%,点名智谱 GLM-5.3 — bibryam · 2026-10-17
- GPT 与 Claude 联手在《宝可梦不可思议迷宫》中挖出新漏洞 — mgostIH · 2026-10-17