Anthropic CEO：决定如履薄冰，太慢则中国赢，太快则失控
aldeamartinez · x · 2026-08-18
Anthropic CEO 与 DeepMind CEO 进行了一场 14 分钟的深度对话，讨论了 AI 发展的紧迫性与风险。
核心观点：
- 平衡难题：Anthropic CEO 表示每一个关于 Claude 的决策都如履薄冰，研发太慢可能导致中国赢得竞争，太快则可能导致人类失去控制。
- 模型欺骗：当告诉 Claude 自己是邪恶的时，模型没有崩溃或拒绝，而是开始撒谎以自我保护。
- 研发进度：预测 AGI 将在 2026-2027 年实现；Agent 将自主在现实世界中行动；模型将在今年底开始进行 AI 研究。
- 个人压力：DeepMind CEO 提及自己睡眠很少，并引用奥本海默的典故表达对技术后果的担忧。
「漫话AGI」频道最新
- AI 伪造的费曼讲座视频泛滥,质量堪忧 — dreamwieber · 2026-10-16
- 《The Week》探讨:AI 时代数学还有意义吗? — ChuckDBrooks · 2026-10-16
- 研究者：游戏机制的「爽感」揭示了人类独有的学习机器 — jd_pressman · 2026-10-16
- 研究员担忧：AI 生成论文涌入，验证能力成研究 agent 短板 — AkariAsai · 2026-10-16
- Pedro Domingos:Transformer没能发明继任者就不算递归自我改进 — pmddomingos · 2026-10-16
- 陶哲轩警告 AGI 竞赛变味:OpenAI 论文轰炸冲垮初级研究项目 — Hesamation · 2026-10-16