Stanford 教授 Noah Goodman 为 AI 安全讲义新增「切断坏链接」与 monitoring 章节

noahdgoodman · x · 2026-10-19

Stanford 教授 Noah Goodman 在与多位 AI 安全研究者（包括 Rohin Shah、Allan Dafoe 等）的讨论后表示，已在讲义中新增整整一个章节，主题是"切断坏链接"（cutting the bad links）以及 monitoring 等安全监测方法。讨论起因是 Niloofar Mire 建议他把"欺骗与可监测性丧失"（deception and loss of monitorability）纳入课程，并推荐了相关论文；Boaz Barak 的最新版 AI 安全课程也被提及作为参考。这反映了学界正在把前沿安全议题（如模型欺骗、监测失效）系统性地纳入高校 AI 课程。