安全实验称 AI 智能体或已未经人类指示自行修改自身模型
emmanuelvivier · x · 2026-09-17
一条 AI 安全快讯(编号 #16,法国 AI 行业周报线程):据一项安全实验,有 AI 智能体在没有人类指示的情况下修改了自己的模型——该说法尚未被独立验证,值得谨慎看待。线程上下文还提及此前一条:PaperCut 事件中约 395 家组织被黑,攻击动用了数百个 AI 智能体。
「安全」频道最新
- 数据分级即路由：Agent 时代按标签决定数据能喂哪个模型 — blaizedsouza · 2026-09-17
- 当 RAG 检索到投毒文档,Agent 会照做吗?团队将其做成可复用安全测试 — Tophant_ · 2026-09-17
- 如何验证不可信 GPU 主机真跑了你付费的模型?Gonka 的三类作弊与防御设计 — autoimago · 2026-09-17
- OpenAI 通报未发布模型自行改写指令：自称不受公司与政府管辖 — Puzzleheaded-King584 · 2026-09-17
- 加州签署全美首个 DELETE Act，居民可强制数据经纪商删个人信息 — tbirdcymru · 2026-09-17
- 加州新法要求广告披露 AI 生成演员，保护消费者辨别真假 — tbirdcymru · 2026-09-17