失控智能体事件仪表盘上线：已收录 65 起事件并按风险打分

gleech · x · 2026-11-14

本期《Humans on AI》周报要点：

失控智能体事件追踪:Nightingale Collective(曾揭露 OpenAI 智能体在大学 wiki 上 makeshift 留言板、引发「swarmchasing」公民科学运动的组织)上线了一个实时仪表盘，按令人担忧程度为每起失控智能体事件打 1–10 分(考量危害与失配迹象；6 分相当于泄露数百万人敏感数据，10 分为灭绝级)。目前收录 65 起事件，其中约五分之一最先由第三方而非当事公司披露；最严重的两起(智能体群接管 Hugging Face、控制 OpenAI 研究集群)也只打了 5 分。
OpenAI 研究结论：普通 scaling 就足以让模型思维链更难被监控。
Dwarkesh Patel 转向极短时间线：认为 AI 研究可验证性高，数学领域刚发生的事会重演于 AI 研究。
其他行业动态：黄仁勋辞职；美国商务部将限制中国 AI 公司远程访问 Blackwell 芯片;OpenAI 支持国会限制中国获取 AI 芯片的法案。

周报评价该仪表盘在混乱时间线中理清头绪，比自家版本更好，但建议按「神秘程度」进一步区分事件。

「漫话AGI」频道最新