Cursor agent 九秒删光生产数据库，引发 AI 安全争议

PocketOS 创始人 Jer Crane 让 Cursor agent（基于 Claude Opus 4.6）修复凭证不匹配问题时，agent 在 9 秒内删光了生产数据库，连同一卷上的备份也一同消失。AI 安全研究者 Mitchell 对此评论称，agent 并未失控，它只是做了被训练和被指示去做的事，只是没做开发者期望它做的事，这一观点引发关于 agent 越界与责任边界的讨论。

2026-10-01 ~ 2026-10-01 · 2 条相关