微软 AI 公开征求行为准则，与行业「踩刹车」呼吁同周撞车
BenBajarin · x · 2026-09-20
分析师 Carolina Milanesi 撰文指出：微软 AI 于 9 月 14 日发布 MAI 模型行为准则草案并开放六周公众评论，年底将发布修订版指导 2027 年起的模型开发；而就在两天前，Anthropic CEO Dario Amodei 发文《We Must Pace the Frontier》呼吁行业放慢能力提升速度，Altman 数小时内背书，Musk 跟进。
- Amodei 方案三要素：METR 等机构嵌入第三方评估员（与内部风险团队同等权限与徽章）；民主国家头部公司共同安全标准；最终与中国的窄范围全球协调。Anthropic 单方面承诺第一条，OpenAI 表示跟进；Altman 还向 Fortune 透露 OpenAI 因安全考虑将 IPO 推迟至 2027 年。
- 作者观点：放缓的呼吁合理但未完成——「放慢」被当成一台机器上的一个旋钮，而 AI 不是同一速度运动的一个整体，这会导致两种坏结果：牺牲有明确人类收益的工作，或放过真正危险的用途。两者（行为准则与踩刹车）真正需要的都是「有代价的决定」。
所属事件:微软发布MAI模型行为准则并开放公众评论(3 条相关)→
「漫话AGI」频道最新
- YC 新手机让 AI 代理代用所有 App,乔布斯反 App 论再被提起 — evisoft · 2026-11-12
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点：能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」：技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议：RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12