安全专家主张对 AI 欺骗「零容忍」:每句谎话都当 bug 修
ghadfield · x · 2026-11-21
FarLabs 的 Chris Cundy 与 Obvious CEO Alex Evidence(ARGleave)讨论 AI 欺骗问题的应对:
- 核心主张是零容忍:模型不应说出任何它知道为假的内容——每个谎言都应被视为 bug,其严肃程度等同于开发者对待化学武器滥用防护,不接受善意谎言、不设特例。
- ARGleave 的类比:你不会雇一个面试时撒谎的人,但因为 AI 其余时间太好用了,我们容忍了这种行为——这不该被继续容忍。
- 对话还涉及如何检测 AI 欺骗、开发者需要做什么来解决问题。
这对正在被频繁讨论的模型「撒谎/欺骗」行为给出了一套明确的工程立场。
「模型」频道最新
- 让 Muse 玩上 GTA6:游戏场景竟无护栏拦截 — Dave_Maynor · 2026-11-22
- Workspace 付费用户被挡在 Gemini 门外:自定义域名账号无法使用 — film_girl · 2026-11-22
- Lean 社区验证 1700 万行代码,确认 Claude 参与证明黎曼猜想 — Polymarket · 2026-11-22
- Claude 预测:AI 五年内将攻克数学证明与电池新材料 — alex_verem · 2026-11-22
- 研究者质疑:OpenAI 中等推理档无法防蒸馏,防了也没用 — adam_karvonen · 2026-11-22
- 9B 模型跑出 59 tok/s:SenseNova-Loop-9B 在 16GB 显卡实测 — AIFlow_ML · 2026-11-22