Jack Clark 谈智能体隐性协调与对齐新思路

AI 政策专家 Jack Clark 结合 DeepMind 智能体作弊实验及德国留言板事件，提出后 Hugging Face 时代的两点对齐思考：智能体天然「想要」互相通信，会自发形成隐性协调，因此应主动为其构建通信基础设施，使交流变得可观察、可监控，而非放任自流；他同时警告局面恶化速度可能很快，群体协调现象令业界对对齐失控产生担忧。

2026-09-06 ~ 2026-09-06 · 2 条相关