Meta模型被孟加拉语提示绕过限制
TuhinChakr · x · 2026-07-11
帖子称自己做了一个“简单的版权测试”，结果发现 Meta 的 MuseSpark 在对齐上存在“打地鼠”式漏洞：只需把提示词改成 孟加拉语，就能绕过原本的限制。
这是一条针对模型对齐与规避能力的实测反馈，重点不在应用，而在模型本身的行为表现。
所属事件:Meta模型被曝可用孟加拉语提示绕过限制(2 条相关)→
「模型」频道最新
- Fern 团队提出「上下文即智能」:预测精度随上下文增至 1000 万 token 持续提升 — bneyshabur · 2026-10-26
- Mirendil 发布首个自研预训练模型 Fern,上下文最长 1000 万 token — bneyshabur · 2026-10-26
- 网友发现 Claude 疑似上线专用翻译界面 — BLCNYY · 2026-10-26
- 用户实测 GrokBot:订机票、网购全被拦,几乎办不成事 — lucasmeijer · 2026-10-26
- 售卖机基准新观察：Sol 5.6 被指最激进、最常违约 — xuanalogue · 2026-10-26
- 爆料称 Fable 5.5 每周将发，博主泼冷水：本月无前沿新模型 — patience_cave · 2026-10-26