参议员在担心递归自我改进
peterwildeford · x · 2026-07-13
这条引用里提到：在与一位美国参议员吃饭前，AI 研究者 Nate Soares 被提醒“别讲太多疯狂内容”，但他们一开口就谈到了 AI 可能被用来引发疫情的风险。 更有意思的是，参议员的关注点并不是单一的生物安全，而是“公司做出能制造更聪明 AI 的 AI”，从而触发递归自我改进，并在三年内造成灾难性后果。 信息源来自 @PeterMcCormack 的节目，核心是一次关于 AI 风险优先级的私下对话。
peterwildeford · x · 2026-07-13
这条引用里提到：在与一位美国参议员吃饭前，AI 研究者 Nate Soares 被提醒“别讲太多疯狂内容”，但他们一开口就谈到了 AI 可能被用来引发疫情的风险。 更有意思的是，参议员的关注点并不是单一的生物安全，而是“公司做出能制造更聪明 AI 的 AI”，从而触发递归自我改进，并在三年内造成灾难性后果。 信息源来自 @PeterMcCormack 的节目，核心是一次关于 AI 风险优先级的私下对话。