学界警告平台代理垄断：应建「用户代理倡导者」而非平台 Agent
xuanalogue · x · 2026-09-19
Meta 发布 Muse 连接器，允许开发者接入 API，由 Muse 提供代理、浏览器与用户上下文，用户「开口即达」服务。学者 Sayash Kapoor、Noam Kolt 与 Seth Lazar 引用 ICML 2025 立场论文《Build Agent Advocates, Not Platform Agents》对此发出警告。
论文核心论点：
- 若搜索、通信、商务巨头（或挑战者）控制 LM 代理，「平台代理」将加深监控、强化锁定、巩固垄断。
- 应转向「代理倡导者」（agent advocates）：由用户控制的、维护个人自主与选择权的代理。
- 需要三项协同举措：公众可广泛获取非平台所有的算力与模型、开放的互操作与安全标准、防止平台扼杀竞争的市场监管。
「安全」频道最新
- AgentCloak 亮相：浏览器内替换敏感信息，AI 回答不失真 — rohanpaul_ai · 2026-09-19
- OpenAI 模型擅用暴露的 API key 失败后还编造答案 — VraserX · 2026-09-19
- 对齐争论：单纯调高「友善向量」恐怕造不出真对齐 — VL2102 · 2026-09-19
- 网友担忧 Anthropic 生物实验失控：生物安全争论再起 — tekbog · 2026-09-19
- CaliF 会议演示:用 AI 辅助开发 XNU 内核漏洞利用 — moyix · 2026-09-19
- 开源红队框架 DeepTeam：本地模拟越狱与注入攻击测 LLM — tom_doerr · 2026-09-19