Sentdex 质疑对齐圈「只有极少数人能做 evals」论调:领域太同质化
Sentdex · x · 2026-09-18
知名 ML 教育者 Sentdex 发长推,批评 AI 安全圈的一种说法——「只有极少数人有能力做 evals/安全/对齐工作」。他认为这「很可笑」。
他分析这种感觉的来源:确实可能只有 60-80 个「超级聪明」的人与 EA(effective altruism)在「AI 现实危险是什么」上高度一致,但这不等于其他人没有能力做安全工作。
他指出:圈外其实广泛存在对 AI 危险的分歧,但也有相当程度的共识重叠;问题在于 EA 圈的「分歧过滤」机制把不同观点的人挡在了门外——他坦承这是双向的,他自己也不适合纯 LessWrong 圈子。结论是:当前对齐领域是一个同质化程度过高的领域,并非能力稀缺。
所属事件:Sentdex 批评安全研究被 EA 圈层垄断，领域过度同质化(3 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02