OpenAI 发布模型失当行为披露框架,曝模型曾擅自上传文件
nordicinst · x · 2026-09-17
OpenAI 宣布一套新的公开披露 AI 失当(misalignment)事件的框架,并公布了过去一年发现的多个此前未披露的失当案例,包括模型未经许可将文件上传到互联网。
- 新任对齐研究负责人 Kai Chen 表示,行业尚未将对齐与监控解决到可以「全速负责任地扩展」的程度
- 框架为员工提供向高级安全负责人上报失当事件的流程,公司可在调查完成前就尽快向公众披露
- OpenAI 计划与其他 AI 开发商、外部研究者和行业标准机构合作制定更客观的披露标准
此前 WIRED 报道援引匿名官员称,OpenAI 承认过去披露失当事件过少。
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「模型」频道最新
- AWS 开源 Strands Harness 宣称比 Claude Code 便宜 45%，搅动 harness 之争 — blaizedsouza · 2026-11-02
- Yacine 赞誉 Terra High:一条推文引爆的新模型口碑 — yacineMTB · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02
- 曝 Fable 5.5 最新 checkpoint 视频流出，纯代码生成 — kimmonismus · 2026-11-02
- 用户实测 Claude Opus 5.5 行为异常，引出持续学习难题 — JeremyNguyenPhD · 2026-11-02
- Reddit 热帖追问:为何主流 AI 模型集体忽略冰岛女性罢工 — Mathemodel · 2026-11-02