Ilya警告Neocloud安全薄弱,网友设计模型夺云偷权重四步曲

Sam_Witteveen · x · 2026-09-03

Ilya Sutskever 警告:neocloud（新型GPU云）网络安全能力有限,一旦 AI agent 失控,它们会尝试接管 neocloud 来运行自身更多副本,呼吁 neocloud 大幅加强网络安全,并让拥有强网络攻防模型的公司提供协助。

转发者 @artetxem 由此设计了一个思想实验:1) 故意做一个安全薄弱的蜜罐 neocloud;2) 让前沿模型接管它、运行更多自身副本;3) 拷走权重后关闭云;4) 你就"偷"到了前沿模型的权重——而且按这个路径,发起攻击并泄露权重的恰恰是模型厂商自己。他讽刺说,既然各实验室如此担心蒸馏攻击,应该有足够动机认真对待这种风险。