Meta 发布个人智能体 Muse,官方详解其安全架构设计
infoxiao · x · 2026-09-09
Meta Superintelligence Labs 发布个人智能体 Muse,内部自 2026 年初起使用,并发表长文详解其安全工程。
Muse 能做什么
- 知道用户个人上下文、后台运行、可启动大量 subagent
- 能自建工具并自我编辑,可接管用户的邮箱、日历与 shell 无人值守运行
- 模型专门训练:CLI/skills 零样本工具调用、长上下文、长轨迹指令跟随(内建 prompt injection 意识)、多智能体协调
安全设计核心:假设智能体一定会被攻击
- harness 运行在隔离沙箱中,不接触真实凭证
- 所有对外交互经过智能体无法绕过的 "Sentinel" 审查层
- 通过内部 dogfooding、agentic 红队及私人漏洞赏金计划中的真实对抗场景持续加固
作者称即便如此 Muse 仍会犯错,但频率和损害会显著降低。文中还宣布开源相关(内容被截断)。
所属事件:Meta 发布个人智能体 Muse，主打全天候代你办事(68 条相关)→
「编程与Agent」频道最新
- Grok bot 首次自主网购：识破页面隐藏提示，1 美元开通 Spotify 后秒取消 — msg · 2026-10-27
- Vercel 部署中编程 agent 占比 10 个月从 3% 飙至 60% — SuB8u · 2026-10-27
- Delta、Chase、Amazon 封杀 AI agent，六阶段推演预言「欢迎者」将赢 — alvelda · 2026-10-27
- Instinct 推出 Link balance:给 AI agent 设预算自主代购 — jeff_weinstein · 2026-10-27
- AI 翻译实战经验：译文流畅不等于文档没坏 — WirelessLife · 2026-10-27
- 实测：Grok Bot 一个 prompt 生成高端 DTC 保健品落地页 — azed_ai · 2026-10-27