实测用 AI 制作攻击无人机：安全红线形同虚设
TobyWalsh · x · 2026-08-14
一位 AI 研究者尝试让大语言模型协助制造自主攻击无人机，以此测试 AI 在武器化过程中的安全护栏。
实验结果显示，尽管 AI 聊天机器人提供了一定协助，作者最终未能完全成功制造出致命无人机。但这一过程暴露了当前 AI 模型在防范恶意滥用方面存在的潜在风险与漏洞。
所属事件:记者实测AI协助制造攻击无人机，安全护栏引发担忧(2 条相关)→
「安全」频道最新
- Apollo Research 称模型已具备「更新感知推理」，是对齐伪装关键前置 — repligate · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16