专家呼吁：警惕开源权重模型加剧黑客攻击风险

joshua_saxe · x · 2026-08-01

安全专家指出，当前媒体和 AI 领导者过度关注智能体逃逸沙箱等模型自身的不对齐风险，而忽视了人类恶意行为者利用智能体实施破坏的紧迫威胁。

作者强调，面对即将到来的「智能体黑客攻击」浪潮，仅靠 AI 实验室不透明的自我测试是远远不够的。行业亟需建立激励机制完善的前沿模型测试，出台针对关键网络的强制加固法规，以应对开源权重模型带来的安全挑战。