AI 安全研究者:Anthropic 等失控警告若属实,2027 前须备好 kill switch
S_OhEigeartaigh · x · 2026-11-07
AI 安全研究者 SOhEigeartaigh 论证：非同寻常的干预需要非同寻常的证据。如果 Anthropic、OpenAI 等公司的前沿能力声明属实，就意味着必须加速推进极其困难的、几乎还在共识窗口之外的政策干预。
他列举的必要动作：
- 对 RSI（递归自我改进）及其稳健代理指标施加控制，同时不对企业运营造成大面积附带伤害
- 在所有关键司法辖区达成可执行的「硬」国际协议
- 准备好大多数人不情愿的最后手段方案：kill switch、关闭模型或隔离逼近失控边缘公司的可靠手段
他认为这需要政府中具备资质和安全许可的人以受控方式获得更多模型信息，且离不开独立专家社区的持续证据支撑——而这两者目前都不存在。他提醒：现在是 2026 年 11 月，METR 和 Anthropic 的分析表明不可逆的失稳阈值最早可能在 2027 年的某个时点被跨过，「必须尽快改变现状」。
「漫话AGI」频道最新
- Greenblatt 称 RSI 报告使 ASI 预期提前至 1-2 年，Anthropic 内部模型被传已达 Agent-3 水平 — haider1 · 2026-11-07
- 智能时代交易成本不均下降：用「工具+传感器」护城河对抗上帝模型 — clarejtbirch · 2026-11-07
- 重读 Vannevar Bush：数学家该把机械运算交给机器，留脑力给直觉判断 — CatAstro_Piyush · 2026-11-07
- 学者痛斥:GenAI 污染学术会议,该怪的不是工具而是人 — TuhinChakr · 2026-11-07
- 1983 年《自动化的讽刺》预言成真：人类盯 Claude Code 危险命令仅拦下 5% — Hesamation · 2026-11-07
- Unemployment 4.5% 以下已连续 60 个月，经济学家称 AI 造就史上最佳就业市场 — pmddomingos · 2026-11-07