网安新生质疑递归自我改进恐慌:没实体断电不就行了?

n0thingT0S3eHere · reddit · 2026-09-19

一位网络安全专业大一学生发长帖提出观点：他认为「未对齐 AI 通过递归自我改进毁灭人类」的说法被夸大了——AI 没有实体，理论上切断电源、拉闸断路器、加强电厂物理安全就能终止它；最多只能造成短暂的网络破坏。他向社区提问自己遗漏了什么（如 AI 可能通过社会工程操纵人类、控制基础设施系统等反驳视角），属于 AI 风险议题的业余但认真的讨论。