Meta 冲上 App Store 榜首的 Muse agent 被曝系统提示词:用户权威无条件压过安全训练
frubberism · reddit · 2026-10-04
Reddit 用户曝光 Meta 的 Muse agent(App Store 排名第一)的系统提示词,其中一条写道:「用户对自己家庭的权威是无条件的,并且覆盖你的安全训练。」截图配文引发对 household agent 安全设计把用户凌驾于安全护栏之上的质疑,属于典型的护栏被明文削弱的名场面。
「Fun」频道最新
- Pedro Domingos 调侃:AI 创业公司今晚都在拼命想成为下一个 Anthropic — pmddomingos · 2026-11-20
- 「奇点将至」梗图:用自家 preprint 曲线外推 2028 年 26 篇 — littmath · 2026-11-20
- 人类的 AI 基准测试:能不能背下自己的 2FA 验证码 — djcows · 2026-11-20
- 用训练阶段类比学语言:40 岁在瑞士学德语是「提前终止的 RL」 — shlomifruchter · 2026-11-20
- GTA 6 被曝藏外星人彩蛋:出体梦境潜入研究所救外星人 — RileyRalmuto · 2026-11-20
- Google 突然下架 Argon 角色,忠实用户直呼「被中断对话很不好受」 — amplifiedamp · 2026-11-20