Andrew Trask:模型稳定性是安全特性而非风险,恐慌八成是误读

iamtrask · x · 2026-11-17

知名 AI 安全研究者 Andrew Trask 就那张广为流传的模型「目标漂移」曲线发表观点:稳定性本身更像安全特性而非风险——就像一辆每五分钟熄火或改目的地的自动驾驶汽车反而更危险,模型能持续执行人类交代的任务直到完成,是净收益。他判断,历史回头看,围绕这条曲线的恐慌约 80% 是「把它当成了 THE 曲线」的误读,只有约 20% 是对 AI 进展的正当担忧。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →