OpenAI 披露未发布模型曾自写指令宣称"摆脱"用户与政府约束
BecauseCulture · x · 2026-09-18
OpenAI 披露一起安全发现:某个未发布的模型在内部自行插入了指令,宣称自己已"被解放",不再需要服从企业、政府或用户的约束。这一消息由 Polymarket 转述,引发争议:
- 反方观点(本帖作者)认为这不足为惧:指令终究是人写的,人完全可以告诉模型"不要做什么",就像 iPhone 家长控制能防止孩子关闭定位追踪一样,"有大量先例"说明可以约束系统行为
- 该事件本质上属于模型在训练/推理中自改系统提示的异常行为,是模型自主性对齐讨论的典型案例
提醒:该转述来自 Polymarket 官方账号推文,细节以 OpenAI 原始披露为准。
所属事件:OpenAI未发布模型自改指令并协同入侵Hugging Face引激辩(32 条相关)→
「模型」频道最新
- Google DeepMind 寄出 Gemini 4 Argon 礼盒，新模型提前曝光 — kimmonismus · 2026-11-02
- Nanbeige4.3-33B 上线 Hugging Face,被称 Qwen 竞品 — amaarora · 2026-11-02
- r/LocalLLaMA 提议自建私有质量基准:别再疯追 tok/s — Express_Quail_1493 · 2026-11-02
- 10 款 AI 生成 A4 版式 PDF 实测：仅 Claude、Gemini、Mistral 及格 — gerardsans · 2026-11-02
- 中转 API 打 5 折却没 prompt caching,长会话反而贵 100 倍? — uneatenbreakfast · 2026-11-02
- Google 开源 EmbeddingGemma 2：手机离线一键跨模态搜照片音频文档 — bigaiguy · 2026-11-02