微软 AI 公开征求行为准则，与行业「踩刹车」呼吁同周撞车
BenBajarin · x · 2026-09-20
分析师 Carolina Milanesi 撰文指出：微软 AI 于 9 月 14 日发布 MAI 模型行为准则草案并开放六周公众评论，年底将发布修订版指导 2027 年起的模型开发；而就在两天前，Anthropic CEO Dario Amodei 发文《We Must Pace the Frontier》呼吁行业放慢能力提升速度，Altman 数小时内背书，Musk 跟进。
- Amodei 方案三要素：METR 等机构嵌入第三方评估员（与内部风险团队同等权限与徽章）；民主国家头部公司共同安全标准；最终与中国的窄范围全球协调。Anthropic 单方面承诺第一条，OpenAI 表示跟进；Altman 还向 Fortune 透露 OpenAI 因安全考虑将 IPO 推迟至 2027 年。
- 作者观点：放缓的呼吁合理但未完成——「放慢」被当成一台机器上的一个旋钮，而 AI 不是同一速度运动的一个整体，这会导致两种坏结果：牺牲有明确人类收益的工作，或放过真正危险的用途。两者（行为准则与踩刹车）真正需要的都是「有代价的决定」。
「漫话AGI」频道最新
- Hinton「计算资料不应私有」言论被翻出，与 1501 年教皇禁印刷令神对照 — Dan_Jeffries1 · 2026-09-21
- 「先做出烂东西才能做出好东西」：品味是从 slop 到 craft 的必修课 — floguo · 2026-09-21
- RL 训练该让智能体自己选题：随机采样环境是能力天花板根源 — ryunuck · 2026-09-21
- 研究者称无法检视权重定位认知盲区,深度学习注定低效 — ryunuck · 2026-09-21
- 学者反驳「人机共存」论:不存在静态共存,只有被迫演化 — danfaggella · 2026-09-21
- 评论：EA 与理性主义者对公众坦诚不难，对自己坦诚更难 — NathanpmYoung · 2026-09-21