参议员在担心递归自我改进
peterwildeford · x · 2026-07-13
这条引用里提到：在与一位美国参议员吃饭前，AI 研究者 Nate Soares 被提醒“别讲太多疯狂内容”，但他们一开口就谈到了 AI 可能被用来引发疫情的风险。
更有意思的是，参议员的关注点并不是单一的生物安全，而是“公司做出能制造更聪明 AI 的 AI”，从而触发递归自我改进，并在三年内造成灾难性后果。
信息源来自 @PeterMcCormack 的节目，核心是一次关于 AI 风险优先级的私下对话。
「漫话AGI」频道最新
- KAN 作者刘子鸣警告:AutoResearch 产出的多是无理解的噪音 — ZimingLiu11 · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27
- 高盛：美企 AI 采纳率与就业增长呈显著负相关 — ben_j_todd · 2026-10-27
- a16z：改变世界的技术都先「混乱入场」，Agent 正走同样的路 — a16z · 2026-10-27
- 断网也得会看病：NEJM AI 警告医学教育不能丢掉脱离 AI 的基本功 — BraydonDymm · 2026-10-27