扎克伯格称各实验室应自管 AI 安全，Reddit 开发者质疑监管缺位
Creamy-And-Crowded · reddit · 2026-09-18
扎克伯格本周发文称每家实验室应对自己的模型安全负责，并以 Meta 将 Muse 推迟数月作为自律有效的例证；同一周 WSJ 报道他与 Musk、黄仁勋分别致电特朗普，劝阻成立 FINRA 式的 AI 监管机构。
发帖人从 agent 开发者角度提出核心质疑：
- 「市场竞争即安全」只对能随时离开的用户成立；但 agent 触及贷款审批、排班、福利申领时，买方、运营方与承受后果者是三个不同的人，只有一方能用脚投票。
- Meta 称已使用独立评估机构，但未说明是谁、权限多大、能否公开发布——而这恰恰是关键。
- 作者类比：厨师都说自己后厨干净且多数属实，「但我们仍然派检查员」。
帖子向社区发起讨论：应放慢部署等治理跟上，还是边发布边补课？你是否担心自己 ship 的 agent 未来无法完全解释？
所属事件:扎克伯格反对 AI 协调降速：称竞争与自利足以保安全(3 条相关)→
「漫话AGI」频道最新
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04
- Joscha Bach 讲两岁梦境：巧克力还在，真实感没了 — Machine Learning Street Talk · 2026-11-04
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04