扎克伯格称各实验室应自管 AI 安全，Reddit 开发者质疑监管缺位
Creamy-And-Crowded · reddit · 2026-09-18
扎克伯格本周发文称每家实验室应对自己的模型安全负责，并以 Meta 将 Muse 推迟数月作为自律有效的例证；同一周 WSJ 报道他与 Musk、黄仁勋分别致电特朗普，劝阻成立 FINRA 式的 AI 监管机构。
发帖人从 agent 开发者角度提出核心质疑：
- 「市场竞争即安全」只对能随时离开的用户成立；但 agent 触及贷款审批、排班、福利申领时，买方、运营方与承受后果者是三个不同的人，只有一方能用脚投票。
- Meta 称已使用独立评估机构，但未说明是谁、权限多大、能否公开发布——而这恰恰是关键。
- 作者类比：厨师都说自己后厨干净且多数属实，「但我们仍然派检查员」。
帖子向社区发起讨论：应放慢部署等治理跟上，还是边发布边补课？你是否担心自己 ship 的 agent 未来无法完全解释？
「漫话AGI」频道最新
- AI 实验室按发布会节奏行事,数学成果遭『为 IPO 挑数据』质疑 — gerardsans · 2026-09-18
- WIRED:员工 10% 灭绝风险表态后,Amodei 的安全方案曝光 — nordicinst · 2026-09-18
- AI 安全老论文正被新入场者忽视，研究者呼吁重读经典基础工作 — JacquesThibs · 2026-09-18
- Peter Diamandis:不劝学生退学,但要审视上大学的惯性 — PeterDiamandis · 2026-09-18
- 纽约时报诉 OpenAI 曝未删节文件:微软高管称训练是「史上最大盗窃」 — StefanoGogioso · 2026-09-18
- 安全老将:有实绩的黑客不是「无名之辈」,AI 正拉平人才竞争 — chrisrohlf · 2026-09-18