Fable 5 把普通职业规划提问标成不安全
sumitdotml · x · 2026-07-22
配图里显示，Fable 5 的安全护栏把一条很正常的请求——用户提供自己的职业背景，并请模型写出不同人生路径和未来想关注的问题——给标记了。
截图中的提示说明，这些护栏目前被故意设置得比较宽，因此可能会误伤安全的日常编程、网络安全或生物类工作内容；同时界面还显示已切换到 Opus 4.8。这条帖子的看点在于：一个普通职业规划问题，被过度保守的安全策略误判，形成了典型的 AI 产品“翻车”场面。
「Fun」频道最新
- 「把末日论者全赶出 AI 公司」,mark_k 引发安全派论战 — mark_k · 2026-09-11
- a16z 合伙人呼吁国有化前沿 AI？作者道歉：可能被钓鱼了 — S_OhEigeartaigh · 2026-09-11
- Linus 并不用 GitHub 写内核：绿格子其实来自邮件列表工作流 — _jaydeepkarale · 2026-09-11
- AI 五年改变世界,Google Docs 却仍把「compute」当名词标错 — ohlennart · 2026-09-11
- AI 智能体协作优化 secp256k1 量子电路,挑战打破 ECDSA — StefanoGogioso · 2026-09-11
- 网友上线「求 AI 别杀我」注册网站,黑色幽默拉满 — motionbynick · 2026-09-11