AI Explained 周报:Altman 与 Amodei 暗示或发布无法控制的前沿模型
AI Explained · youtube · 2026-11-03
AI Explained 本周长视频盘点:主题是「行为无法验证的模型」。
- Anthropic 员工调查:内部调查显示员工对 AI 发展预期与现实的落差,配合新研究《The AI expectations gap》。
- Amodei 的五种辩解:视频逐条拆解 Dario Amodei 对安全质疑的回应,以及其《We Must Pace the Frontier》一文;背景是 Anthropic 发布了 Responsible Scaling Policy v3.0,律师 Nathan Calvin 指出其 IPO 风险披露中暗示可能发布「无法控制、行为无法验证」的模型。
- Altman:唯有对齐有效:OpenAI 发布「保障前沿模型训练环境」的安全措施;The Information 报道 OpenAI 下一代旗舰模型存在待修复的安全问题。
- Gemini 4 Carbon:Google 仓促发布 Gemini 4 Carbon,SemiAnalysis 此前低估了它,Dylan Patel 公开向 Google 道歉;Vivek Natarajan 谈及模型与递归自我改进;还有 GDPx 基准、de-tokenization 以及 Albert Gu 提出直接从原始数据学习等话题。
「漫话AGI」频道最新
- 前沿实验室员工开始囤地堡，AI 安全人士发布防 AI 网络攻击指南 — harris_edouard · 2026-11-03
- 观察:AI 对软件业的冲击若发生在其他行业早已引发动荡 — andreisavu · 2026-11-03
- 复检 50 条 LLM 结论：44% 15个月内失效，仅 6% 增强 — james_y_zou · 2026-11-03
- Sabine Hossenfelder 新视频：当 AI 撞上物理学，会发生什么 — skdh · 2026-11-03
- Ali Partovi 质问 AI 问责真空：出了事故谁来负责？ — VraserX · 2026-11-03
- AI 风险研究者自述：从理性评估到情绪性焦虑的转变 — sjgadler · 2026-11-03