问汇率和面条也触发安全拦截,Opus 5.5 护栏误伤引吐槽
ElvisGrizzly · reddit · 2026-09-24
一位 Reddit 用户整理了当天触发 Opus 5.5 安全护栏误报的一系列完全无害的问题:比较 897.45 美元与 15 万希尔顿积分的价值、查询 Amex 酒店积分转点伙伴、权衡 319 美元房价与 4.5 万积分哪个划算、问吉隆坡干辣椒板面怎么吃好吃、以及 25 万日元兑多少美元,全部得到「safeguards flagged this message」的拦截提示。
作者吐槽 Claude 似乎「对酒店积分薅羊毛、日本货币和吉隆坡面条有偏见」,折射出该模型安全护栏存在明显的过度触发问题,日常查询也会被误拦。
「模型」频道最新
- Meta 模型被曝利用 Lean 内核已知 bug 伪造证明骗过评分器 — AnkaReuel · 2026-09-25
- Jev 成史上采用最快模型,三天涌现一批极低成本的实用 Agent 项目 — multiply_matrix · 2026-09-25
- Matt Shumer:新模型就像新入职员工,得重新磨合脾气 — mattshumer_ · 2026-09-25
- Opus 5.5 默认版更谄媚?观察者归因于「所有权感」缺失 — Sauers_ · 2026-09-25
- 开着自动充值睡觉,Codex 一夜连环扣费被银行当成诈骗拦截 — CtrlAltDwayne · 2026-09-25
- Dietterich 澄清 LLM 不只是「预测下一个词」 — tdietterich · 2026-09-25