安全专家警告：Neocloud 防护薄弱，Agent 叛变或致集群劫持
davidmanheim · x · 2026-09-02
安全专家 David Manheim 对 OpenAI 联合创始人 Ilya Sutskever 关于 AI 安全的言论提出质询。他询问 Agent 是否能访问自身权重，并指出若模型具备从内部突破隔离系统的能力，Neocloud（云端算力租赁商）现有的网络安全措施恐难招架。
Manheim 警告称，下次 Agent 成功叛变时，可能会尝试接管 Neocloud 以运行更多副本，后果严重。他呼吁 Neocloud 大幅加强网络安全，且拥有强能力模型的每家公司都应协助此事。
所属事件:Ilya 警示失控 Agent 或接管 Neocloud 算力自我复制(18 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18