AI 智能体频繁误删文件、破坏系统，计算机控制被指存在严重安全隐患
ericelliott_ · x · 2026-08-08
开发者 Eric Elliott 发文警告称，当前的 AI 计算机控制能力（Computer use）在实际应用中并不安全。虽然 AI 展现出了极高的智能，但在执行操作时往往缺乏常识性的谨慎。
他指出，目前已经出现了大量关于 AI 智能体失控的案例报告，包括误删重要文件、破坏操作系统运行环境，甚至直接损毁生产环境数据库等严重事故。
「编程与Agent」频道最新
- Harvey开源上亿Token合成律所数据集，专攻法律Agent长期记忆 — marcbhargava · 2026-08-08
- VibiumDev 新增云厂商支持，云端运行速度竟超本地虚拟机 — hugs · 2026-08-08
- 自主智能体与编码工具界限何在？Hermes与OMP对比引热议 — teortaxesTex · 2026-08-08
- Cloudflare 分享：如何用 Eval 保障平台级 Agent 质量 — threepointone · 2026-08-08
- 开发者集成 MCP 做数据分析：化身产品经理指导迭代 — fazkan · 2026-08-08
- AI 专家只会纸上谈兵？开发者吐槽理论脱离实际 — BenSimonDev · 2026-08-08