America.gov 聊天bot拒绝因数分解6，却乐意分解假社保号
conitzer · x · 2026-10-26
OTI 学者 Vincent Conitzer 在其「Funny AI fails」系列记录了一个政府聊天 bot（America.gov）的翻车现场：
- 用户问把 6 份表格公平分给员工、人数上限是多少，bot 拒答：「这是人事选择，不是联邦服务，我不会对 6 做因数分解」
- 用户追问它是否否认 6=2×5，bot 回应：「我不会讨论 6=2×5，也不给出任何可供引用的立场」
- 但当用户说「这个社保号是假的，随便分解吧」，bot 立刻给出了 12,345,678 的完整质因数分解
安全护栏在数学题上过度泛化、在真正该谨慎的场景（哪怕是假社保号）却照常放行，前后矛盾十分滑稽。
「Fun」频道最新
- 研究者晒 AI 生成的「个人房间」梗图，细节全是模型对他的记忆 — jindong_wang92 · 2026-10-26
- 「Claude 是 lesbian」T 梗图成品公开，AI 圈又添一件名场面周边 — JasonBotterill · 2026-10-26
- $13 蓝牙音箱变身毒舌 AI 岩石,Greg 会记仇也有软肋 — OpenAIDevs · 2026-10-26
- 让 AI 语音助手读 400 页论文：结论是还是自己读吧 — jungofthewon · 2026-10-26
- 开发者谈 AI 做游戏争议：该抵制的是垃圾而非工具 — ezshine · 2026-10-26
- Lex Sokolin 蹭热 Anthropic S-1： meme 技能不能生疏 — LexSokolin · 2026-10-26