Boaz Barak 公开 AI 安全课程全套视频：从 Schulman 到 Altman 均有讲座
eigenron · x · 2026-11-09
哈佛教授 Boaz Barak 在 LessWrong 发布其 AI 安全课程的最新进展：课程面向学生开放，每讲均有学生整理的 scribe notes，部分讲座附视频，学生每周还围绕主题做实验，其中一些有望发展为论文。
本季讲师阵容非常豪华，涵盖：
- Nicholas Carlini：网络攻击能力
- Dwarkesh Patel 与 Daniel Kokotajlo：递归自我改进与 AI 轨迹
- Chad Jones 与 Erik Brynjolfsson：AI 的经济影响
- John Schulman：评分、reward hacking 与对齐
- Sam Altman：学生问答环节；Nathan Lambert：开源模型
- Helen Toner：不确定性下的前沿 AI 监管
- Jack Lindsey：可解释性；Jeff Sebo：模型福利
- Jakub Pachocki：AI 涌现风险；后续还有生物安全、威胁建模等主题
所有笔记、视频与每讲阅读材料都可在课程网页获取。Barak 还自嘲网页是用 ChatGPT 维护的，难免有些「slop 味」表达。
「公司和人」频道最新
- 前员工回忆早期 Anthropic:40 人办公室、三分之二股权捐赠与「创伤官僚」 — LessWrong 精选 · 2026-11-09
- 斯坦福 CS146S 重写作业:人人都在用 agent,开源贡献成新考题 — Latent Space · 2026-11-09
- Axios 曝黄仁勋致员工信,正面回应婚外情风波 — KateClarkTweets · 2026-11-09
- 《经济学人》封面聚焦黄仁勋:硅谷巫师与 NVIDIA 的 AI 未来 — GaryMarcus · 2026-11-09
- 爆料分析：NVIDIA 董事会去年春天已知情，黄仁勋能渡过危机 — soumitrashukla9 · 2026-11-09
- 腾讯首席AI科学家姚顺雨：AI将很快精通生物学，将建全自主AI科学实验室 — nlarusstone · 2026-11-09