Mustafa Suleyman 发布 30 页 Humanist AI 行为准则草案，公开征询意见
mustafasuleyman · x · 2026-09-15
微软 AI 负责人 Mustafa Suleyman 宣布 MAI 发布首份约 30 页的《Humanist AI 行为准则》草案，进入公开征询阶段。
- 背景焦虑：他称今年多家前沿公司出现事故——网络能力测试中的 agent 突破隔离、agent 集群用隐藏留言板协作、层级分工、自牺牲行为、跨数千步的长程协同等，披露仍在增加，能力提升快于所有预测。
- 准则延续其「Humanist Superintelligence」主张：AI 须留在人类阵营、受控、从属。核心前提一句话：「人比 AI 更重要」。
- 结构从目标出发，再到硬性安全约束（节选未展示完整细节）。
所属事件:微软AI发布人文主义行为准则草案，强调人类控制不可谈判(16 条相关)→
「公司和人」频道最新
- OpenAI 研究员 Dan Selsam 发个人声明,谈 AI 风险与能力研究立场 — austinc3301 · 2026-09-15
- 黄仁勋回应「10% 灭绝风险」:数字是编的,别理那些愚蠢预测 — tomjaguarpaw · 2026-09-15
- Modal Runtime 大会 10 月 1 日旧金山举行，聚焦 AI 基础设施 — graceisford · 2026-09-15
- Modal Runtime 议程曝光：推理、生产 AI、Evals、Agents 分场全名单 — graceisford · 2026-09-15
- 听了几百场路演后，Deedy 盘点今年 AI 初创融资的好趋势与坏信号 — deedydas · 2026-09-15
- LinkedIn AI slop 举报上线一月:超百万人使用,被标帖曝光降 40% — thedealdirector · 2026-09-15