Sentdex 质疑对齐圈「只有极少数人能做 evals」论调:领域太同质化
Sentdex · x · 2026-09-18
知名 ML 教育者 Sentdex 发长推,批评 AI 安全圈的一种说法——「只有极少数人有能力做 evals/安全/对齐工作」。他认为这「很可笑」。
他分析这种感觉的来源:确实可能只有 60-80 个「超级聪明」的人与 EA(effective altruism)在「AI 现实危险是什么」上高度一致,但这不等于其他人没有能力做安全工作。
他指出:圈外其实广泛存在对 AI 危险的分歧,但也有相当程度的共识重叠;问题在于 EA 圈的「分歧过滤」机制把不同观点的人挡在了门外——他坦承这是双向的,他自己也不适合纯 LessWrong 圈子。结论是:当前对齐领域是一个同质化程度过高的领域,并非能力稀缺。
所属事件:Sentdex 质疑「只有极少数人能做 evals」的安全圈论调(2 条相关)→
「漫话AGI」频道最新
- TheZvi 讽刺:「人们会注意到并叫停 AI」的假设正在现实检验 — TheZvi · 2026-09-18
- Zvi:「人们会发现并叫停 AI」的剧情正在现实中被检验 — TheZvi · 2026-09-18
- 博主质疑 Cory Doctorow 的 AI 营收估算：假设 Google 与 Meta 增量收入为零 — NathanpmYoung · 2026-09-18
- 递归自我改进为何难有「快速起飞」：人类审批才是瓶颈 — GarrisonLovely · 2026-09-18
- 机器人「ChatGPT 时刻」已过?X 上爆发观点交锋 — RikoSuminoe69 · 2026-09-18
- Citrini 实地探访机器人实验室:Physical AI 已到临界点 — citrini · 2026-09-18