Andrew Trask:模型稳定性是安全特性而非风险,恐慌八成是误读
iamtrask · x · 2026-11-17
知名 AI 安全研究者 Andrew Trask 就那张广为流传的模型「目标漂移」曲线发表观点:稳定性本身更像安全特性而非风险——就像一辆每五分钟熄火或改目的地的自动驾驶汽车反而更危险,模型能持续执行人类交代的任务直到完成,是净收益。他判断,历史回头看,围绕这条曲线的恐慌约 80% 是「把它当成了 THE 曲线」的误读,只有约 20% 是对 AI 进展的正当担忧。
「漫话AGI」频道最新
- State of AI 2026 报告发布:前沿已成三大实验室竞局 — nathanbenaich · 2026-11-17
- 学者激辩:顶会投稿质量下滑或因高手撤出,而非新人涌入 — analisereal · 2026-11-17
- 一万个协作 agent 解出近乎无解的数学难题 — emmanuelvivier · 2026-11-17
- sceptic:OpenAI 无法在 Lean 里形式化「这个 AI 不会杀你」 — zetalyrae · 2026-11-17
- 观点:AI 的目标不该是提效 20%,而是终结“为钱工作”本身 — VraserX · 2026-11-17
- iamtrask:时间跨度衡量的是稳定性而非智能,别混淆 ASI 信号 — iamtrask · 2026-11-17