Scott Aaronson 在 UT Austin 开设 AI 对齐理论新课程
burny_tech · x · 2026-10-05
知名量子计算学者 Scott Aaronson 本学期在 UT Austin 开设全新课程 CS395T「AI 对齐理论」，并自称这是对 20 年前 Eliezer Yudkowsky 及其 Sequences 思想的回应。
课程要点：
- 核心问题：如何可靠地对齐与控制强大的 AI 系统；如果沿当前范式造出通用超人类智能，结果会否对人类有利；能否通过修改设计、训练、监控或 scaffolding 来保障这一点。
- 定位：区别于近年大量实证工作，本课聚焦理论与数学基础。Aaronson 坦言对齐的理论基础尚未凝聚成被领域公认的经典体系。
- 形式：研读并辩论 LLM 革命前后对齐领域最具影响力的概念与数学著作，学生展示、报告与项目占核心地位。
所属事件:Scott Aaronson 在 UT Austin 开设 AI 对齐理论课程(2 条相关)→
「公司和人」频道最新
- 保险科技公司部署 AI:险些给凯美瑞按特斯拉理赔 — Ornery-Length- · 2026-10-05
- Reddit 热帖指 OpenAI 在某条推文三周后解雇其安全研究员 — Puzzleheaded-King584 · 2026-10-05
- 贝索斯金句：40 岁前别雇朋友，40 岁后只雇朋友 — rohanpaul_ai · 2026-10-05
- 物理 AI 部署复盘会:evals、失败数据与再训练闭环 — carrycooldude · 2026-10-05
- threepointone 喊话 AI 公司 DevRel:别再表演式发帖,用自然声音说话 — threepointone · 2026-10-05
- Sam Altman 反对单一实验室垄断 AI 决策权 — mark_k · 2026-10-05