宾大开设 AI 对齐数学基础研究生课程
Aaroth · x · 2026-08-26
宾夕法尼亚大学开设了名为“AI 对齐的数学基础”的研究生课程（CIS 7000），由 Aaron Roth 教授讲授。
课程大纲：
- 从反馈到社会目标：RLHF 作为社会聚合、异构偏好与阿罗不可能性定理。
- 偏好优化：标量奖励拟合与 DPO、正则化纳什学习、福利扭曲。
- 决策对齐预测：校准、全预测与 Blackwell 接近性。
- 监督与辅助：AI 辩论、贝叶斯说服、逆强化学习。
- 机构与竞争：最优 AI 选择、竞争带来的涌现对齐。
「公司和人」频道最新
- 14年前入行老兵感叹：Grok 竟读懂了我最自闭的代码 — Kuprel · 2026-08-26
- 5 天涌现 309 个克隆，疯狂跟风 — jonathan_wilke · 2026-08-26
- 科技记者在华盛顿组织“支持数据中心”派对 — Polymarket · 2026-08-26
- 买不到合适的就自己造:Every 与 Headway 各自打造公司级共享 Agent — every · 2026-08-26
- 营销专家吐槽：AI搜索工具广告铺天盖地 — lilyraynyc · 2026-08-26
- Anthropic 投 500 万美元资助 AI 幸福感评估研究 — dhadfieldmenell · 2026-08-26