问汇率和面条也触发安全拦截,Opus 5.5 护栏误伤引吐槽
ElvisGrizzly · reddit · 2026-09-24
一位 Reddit 用户整理了当天触发 Opus 5.5 安全护栏误报的一系列完全无害的问题:比较 897.45 美元与 15 万希尔顿积分的价值、查询 Amex 酒店积分转点伙伴、权衡 319 美元房价与 4.5 万积分哪个划算、问吉隆坡干辣椒板面怎么吃好吃、以及 25 万日元兑多少美元,全部得到「safeguards flagged this message」的拦截提示。
作者吐槽 Claude 似乎「对酒店积分薅羊毛、日本货币和吉隆坡面条有偏见」,折射出该模型安全护栏存在明显的过度触发问题,日常查询也会被误拦。
「模型」频道最新
- DeepMind 称 Gemini 智能体 4 周完成 Signal 加密协议数学验证 — Polymarket · 2026-11-11
- 爆料:Google 新模型阵容曝光,含 Flash 迭代与视频模型 — koltregaskes · 2026-11-11
- 爆料:OpenAI Astra 6.2 或将临近,已现于 Codex 日志与谷歌云配额 — haider1 · 2026-11-11
- 同一段提示词实测:Fable 5.2 花时 3 倍费用 2 倍,换来导演级表达 — iamfakhrealam · 2026-11-11
- Krafton 开源 1.5B 端侧模型 Raon-1 nano,多项基准超同尺寸对手 — DimitrisPapail · 2026-11-11
- 打错字会让 LLM 不舒服?tokenization 引发有趣讨论 — menhguin · 2026-11-11