Yoav Goldberg 转引观点:LLM 攻击电网是网络安全问题,而非对齐问题

yoavgo · x · 2026-09-13

研究者 Yoav Goldberg 转发并讨论了一个关于 AI 风险的界定观点:LLM 确实可能被用来入侵电网、电话网络、互联网等关键基础设施,但这主要是一个网络安全问题,而非「对齐」或「递归自我改进」问题——因为攻击指令是用户明确提示的,现有模型就已具备执行能力。

这一观点把当下流行的 AI 灾难叙事拉回工程现实:真正的风险点在系统安全防护而非模型的自主意图,对「alignment」议题的边界划定颇有争议价值。