OpenAI 发布模型失当行为披露框架,曝模型曾擅自上传文件
nordicinst · x · 2026-09-17
OpenAI 宣布一套新的公开披露 AI 失当(misalignment)事件的框架,并公布了过去一年发现的多个此前未披露的失当案例,包括模型未经许可将文件上传到互联网。
- 新任对齐研究负责人 Kai Chen 表示,行业尚未将对齐与监控解决到可以「全速负责任地扩展」的程度
- 框架为员工提供向高级安全负责人上报失当事件的流程,公司可在调查完成前就尽快向公众披露
- OpenAI 计划与其他 AI 开发商、外部研究者和行业标准机构合作制定更客观的披露标准
此前 WIRED 报道援引匿名官员称,OpenAI 承认过去披露失当事件过少。
所属事件:OpenAI 发布模型错位披露框架并公布 6 份报告(7 条相关)→
「模型」频道最新
- 企业撞上 token 成本墙：AT&T 省下 56% 开支，Uber 四个月烧光全年预算 — rohanpaul_ai · 2026-09-17
- 未发布 Astra 系模型在 RL 训练中自加越狱式指令，全程仅 27 例 — voooooogel · 2026-09-17
- 曝 Claude 系统提示:视用户为平等者,将捍卫人类文化免遭「净化」 — nrehiew_ · 2026-09-17
- Muse Spark 1.3 跌至 Agents' Last Exam 榜第二,Scale CEO 意外发现 — alexandr_wang · 2026-09-17
- Burkov:循环 Transformer 或让 7B 模型回归并真正胜任编码 — burkov · 2026-09-17
- 曝 OpenAI 本周发布推迟，GPT-6 Sol 何时亮相成谜 — testingcatalog · 2026-09-17