Meta 发布个人智能体 Muse：安全架构详解，数据飞轮引隐私担忧
simplexmethod · x · 2026-09-16
Meta Superintelligence Labs 发布个人智能体 Muse，并同步公开长文《How We Built Safety Into Muse》详述安全设计，但社区随即对其数据用途提出尖锐质疑。
Muse 是什么：官方称自 2026 年初开始内部使用，定位是「了解你、后台运行、能启动子代理集群、自建工具并自我编辑」的个人超级智能体，用户把收件箱、日历和 shell 都交给它托管运行。
安全与工程要点：
- 模型专项训练：零样本工具调用（CLI 与 skills）、长上下文、长轨迹指令跟随、对 prompt injection 的内生感知、多智能体协调。
- 假设被攻击的架构：harness 运行在隔离单元中，看不到真实凭证；所有对外交互经过一个智能体无法覆盖的 Sentinel 审查层。
- 通过内部 dogfooding、agentic 红队和私人漏洞赏金计划的实战加固，并宣布开放 Muse bug bounty。
隐私争议：simplexmethod 指出，Muse 正在通过连接器（connectors）产生海量深度个人且可行动的训练数据——用户看到什么、想要什么、问什么、买什么、忽略什么，几乎是「内置版 onavo」，数据飞轮的复利效应才刚开始；而承诺防 Meta 访问的 Confidential VM 尚未上线，被质疑为货不对板。signulll 补充该功能「即将推出但还没激活」，altryne 则认为即使有开关，90% 的用户也不会去点。
所属事件:Meta 发布个人智能体 Muse，数据飞轮引隐私担忧(2 条相关)→
「公司和人」频道最新
- Perplexity 首次在柏林组建团队，招逆向工程师挖搜索索引 — bo_wangbo · 2026-09-17
- 专攻自动化的基础模型公司 TypeSafe AI 高调发布，投资人盛赞 — hardimanjames · 2026-09-17
- Berkeley 学者 Kanazawa 教机器读懂物理世界,服务机器人时代 — jfiance · 2026-09-17
- 曝 Mistral 遭黑客入侵:未发布工具样本流出,整个代码库被标价出售 — teortaxesTex · 2026-09-17
- DeepMind 研究员离职创办 Polyphron，用 RL 复现人体组织 — vqctran · 2026-09-17
- MrBeast 招聘「Insights 总监」，网友惊呼岗位竟真实存在 — round · 2026-09-17