DeepMind 研究者阐述 AI 安全观：滥用与系统风险更值得警惕

DeepMind 的 Seb Krier 撰文总结其 AI 安全核心观点：他认为真正值得担忧的威胁是非国家行为体利用越来越廉价的技术，以及制度失灵，而非科幻式的「AI 自主谋划」。他还转发并认同另一观点：在多智能体、多模型、复杂工具调用的系统中，可调环节众多，系统层面的行为和轨迹将主导最终结果，仅对齐单个模型远远不够，安全工作需上升到系统层面。

2026-11-07 ~ 2026-11-07 · 2 条相关