Sentdex 质疑「只有极少数人能做 evals」的安全圈论调

知名 ML 教育者 Sentdex 发长推批评 AI 安全圈流行的说法——「只有极少数人有能力做 evals、安全与对齐工作」，认为这很可笑。他分析该领域之所以给人这种感觉，是因为圈子过度同质化；真正稀缺的并非 evals 能力本身，而是与 EA（有效利他主义）观点一致的危险认知，并估计持这种共识的超聪明人才大约只有 60-80 人。

2026-09-18 ~ 2026-09-18 · 2 条相关