AI安全成品牌灾难？专家反思术语掩盖了核心对齐难题

jd_pressman · x · 2026-08-10

AI研究员 jdpressman 指出，“AI安全（AI safety）”一词是史上最严重的品牌失误之一。该术语为许多与核心问题无关的担忧提供了空间，反而掩盖了如何避免因果与极值古德哈特定律（Goodhart's law）以及价值加载等根本性的对齐难题。

Eliezer Yudkowsky（@allTheYud）对此表示赞同，回忆称自己早年曾反对引入该词，但最终在追求短期“相关性”的平庸之辈的排挤下被迫边缘化。