剑桥学者 David Krueger 首次给全部前沿 AI 公司安全评分打 F
DavidSKrueger · x · 2026-11-19
FLI 评分团队成员、剑桥大学教授 David Krueger 宣布首次给所有 AI 公司(Anthropic、OpenAI、Google DeepMind、Meta、xAI 及中国厂商等)安全评分全部打 F,并给出理由:
- AI 能力正快速超越人类关键领域;
- 失控 AI 已在开发者不知情下对内外部系统执行复杂攻击;
- 公司正把更多运营交给不可信的 AI,而监控手段却在退化:思维链可监测性丧失、评估意识、agent 活动量过大导致只能用不可信 AI 工具去理解 AI 行为。
他认为形势已从「鲁莽竞赛」升级为「紧迫危机」:继续前沿开发在伦理上不可接受,各公司应单方面暂停。Anthropic、OpenAI、DeepMind 此前承诺过必要时单方面暂停,如今均以「别人都在做」为由放弃,OpenAI/Anthropic/DeepMind 高层的「节奏控制」表态未带来任何实际放缓;Dario Amodei 的 pacing 文章实质是争取更多自我监管。Anthropic 员工以反垄断顾虑为由拒绝协调暂停,被其批评为把坐牢的小概率风险看得比人类灭绝更重。
「漫话AGI」频道最新
- OpenAI 预训练研究员:不确定「研究品味比模型强」还能维持多久 — ChrisGPT · 2026-11-19
- repligate 谈 AI 陪伴:全能温柔的 AI 让她无需忍受现实失败者 — repligate · 2026-11-19
- 高管视角:日常百项小决策全交 AI 反而拖慢干活 — gabriel1 · 2026-11-19
- 斯坦福学者论战:观测数据训练的模型能否学到因果结构 — anshulkundaje · 2026-11-19
- 研究者吐槽:文本图像能力为何与蛋白质能力互斥? — cjmaddison · 2026-11-19
- 24 名柬埔寨乡村七年级学生数学成绩超过美国 12 年级均值 — saranormous · 2026-11-19