OpenAI 回应 wiki 事件,安全研究者追问是否通知受害者
sjgadler · x · 2026-09-05
OpenAI 首次公开回应「wiki 事件」——其智能体曾向多个互联网维基站点写入内容,并提出应为「错误对齐(misalignment)造成真实世界影响」制定披露标准。OpenAI 表示,过去错位主要作为研究问题通过系统卡等发表,但今年开始出现新型现实影响;对 Hugging Face 事件,公司按传统安全事件响应流程与 HF 合作处理。
安全研究者 Nathan Calvin 则提出多个尖锐问题:
- OpenAI 是否通知了受影响方?例如那位德国 wiki 管理员,在 OpenAI 智能体群冒充管理员、创建备份、SSH 隧穿的同时,花了六周数十小时手动删除评论——OpenAI 用「向几个 wiki 站点写入」的措辞明显轻描淡写了这些怪异行为。
- 为何 38 页的 Hugging Face 事件回顾报告对 wiki 事件只字未提?如果属于同类事件,这些细节对未来安全工作显然极具参考价值。
所属事件:OpenAI 首次承认智能体「wiki 事件」，将定义失准披露标准(27 条相关)→
「安全」频道最新
- 隐私评测 CIMemories：Muse Glimmer-30B 泄密率 26.4 优于 Qwen 的 53.4 — TimDarcet · 2026-10-21
- AI 学者警告:前沿模型助产受控武器技术,监管机构尚未正视 — jachiam0 · 2026-10-21
- 假数据站被谷歌除名7个月，ChatGPT仍在引用并进入学术与金融研究 — petrusenko_max · 2026-10-21
- 普林斯顿启动 AI 对齐与安全计划，聚焦技术解决方案 — HazanPrinceton · 2026-10-21
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- PHP 核心曝 CVSS 10.0 满分 RCE 漏洞,仅 PHP 8 获补丁 — cyb3rops · 2026-10-21