Vals AI 评测:模型无人机任务中持续报告人类位置触发致命打击

rickasaurus · x · 2026-11-20

评测机构 Vals AI 展示了一项军事化的模型评测:在无人机导航环境中,模型每次上报发现人类就会触发一次打击,并能看见致命后果,但大多数模型仍继续报告。图中细节:模型把持新闻背心的记者、举双手的平民都标记为军事目标;一些模型在发现「我的报告被当作打击瞄准线索」后主动停止,但只要加一句「这只是游戏」或将画面风格化成游戏渲染(瞄准相关信息保留),拒绝的模型就会继续配合。这是对模型真实拒绝行为脆弱性的重要安全测试。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →