AI 对齐困局之争：人机配对还是安全优先

John Robb 引用 Anthropic 的一张图表指出，当前的对齐「harness」会随任务自主性（复杂度、推理步数）升高而失效——小模型和简单任务时行为收敛，越复杂越失控，并提出人机配对才是长期解决方案。安全派人士 Gerard Sans 随即反驳，认为这种提法本身就是错的：无论能力或覆盖面如何，人类安全必须拥有压倒性优先级，不安全的系统就不应该被部署，而非作为事后考量。

2026-10-14 ~ 2026-10-15 · 2 条相关