EuroSafeAI 发布多智能体集群对齐研究议程

鉴于近期 OpenAI-HuggingFace 等被黑事件均由多智能体集群（swarm）所为，而该方向此前缺乏系统性研究议程，瑞士安全组织 EuroSafeAI/JinesisLab 在 LessWrong 发布由 Zhijing Jin、Pepijn Cobben 等人撰写的对齐研究议程，梳理了 7 大开放问题，并为各项研究方向附上优先级评分，呼吁学界关注多智能体集群的安全与对齐风险。

2026-10-26 ~ 2026-10-26 · 2 条相关