ben Todd 担忧：AI 判别力强项不在难验证的对齐研究上
ben_j_todd · x · 2026-11-13
80,000 Hours 主席 Benjamin Todd 指出一个不太理想的现状：AI 恰恰在「更难验证的任务」上落后，而对齐研究正是最难验证的领域之一。他转引 Anthropic Alignment 团队新发布的 TASTE 基准（评测模型判断 AI 安全研究提案优劣的能力）作为论据，暗示若依赖 AI 自动化安全研究，其评审判断力尚不可靠。
「漫话AGI」频道最新
- 机器人学者：操作任务或已不适合学术界，学界该做「可能 scale 的 top N」 — AvivTamar1 · 2026-11-13
- 开发者:AI 写引擎不是作弊,游戏创作门槛正被抹平 — bendee983 · 2026-11-13
- 播客主少楠弃用 AI 写作：「它写的东西终归是它的」 — oran_ge · 2026-11-13
- 运行 40 年、2500 万条规则：被遗忘的常识推理项目 Cyc — ArtificialOther · 2026-11-13
- threepointone：AI 让技术栈切换成本趋近于零，NoSQL 论将失效 — threepointone · 2026-11-13
- AI 的起源是一场地中海神秘异象:从 Llull 到「上帝愿景」的衰败 — sarahdrinkwater · 2026-11-13