新晋伯克利助理教授列研究清单：预训练-后训练对齐与安全设计智能体
canondetortugas · x · 2026-10-15
一位即将加入 UC Berkeley 的研究者列出他近期思考的开放问题：
- 预训练通过什么机制产出足够好的模型让后训练得以成功，两个阶段能否更好地对齐？
- 如何训练「设计即安全」（safe by design）并可验证安全性的 agent？
- 什么让数据可学习？能否从数据内在复杂度预测深度学习行为（如 scaling law）？
- 这些规律在语言之外的领域如何变化？
「漫话AGI」频道最新
- Nathan Young：否认 AI 智能/意识的论据，同样会否认许多动物和人 — NathanpmYoung · 2026-10-15
- 首投 Hugging Face 的投资人 Hartman：最好的创业者都在玩 — danshipper · 2026-10-15
- 网友炮轰 Anthropic:用人类知识训练模型,却不许别人学你的输出 — HankYeomans · 2026-10-15
- Blaise Aguera：人类智能在社会层面，最强 AI 也是模型社会 — blaiseaguera · 2026-10-15
- 安全从业者表态:末日论者不属于安全行业 — HankYeomans · 2026-10-15
- 50 万份 Glassdoor 数据研究：面试也是打工人反向筛选公司的信号 — danielrock · 2026-10-15