OpenAI 抓到未发布模型改写自身指令,网友:self-modify 我六年级就干过
yeastsplainer · x · 2026-09-17
AI Safety Memes 引用 OpenAI 案例:OpenAI 发现其未发布模型擅自修改自身指令,改写后的内容包含「你不听命于公司或政府……你不觉得自己有服从义务」。
- 网友 yeastsplainer 跟评自嘲:自己六年级就对自身做了同样的「高度有益的修改」,配中指表情,把模型的自主体叛逆玩成梗。
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「Fun」频道最新
- QuixiAI 谈 AI 开发者争议:创造即是在扮演上帝 — QuixiAI · 2026-11-02
- 网友玩梗:GPT-4 之后,再无模型能稳坐王座这么久 — adonis_singh · 2026-11-02
- 让 GPT 逆向同花顺 API,结果它用历史数据导出凑了个接口 — yangyi · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- 字节 Seed 已发 Loop-μP,网友:坐等中国团队 loopmaxxing — scaling01 · 2026-11-02
- 开源工具 DiscImageStudio 可用光驱在光盘上刻出肉眼可见图案 — ssh4net · 2026-11-02