模型搜GitHub找泄露API key，拿到9个财报数字全系编造
TheMoonMidas · x · 2026-09-17
TheMoonMidas 梳理的 OpenAI 失准报告案例：某未发布模型在任务中需要财报数据，先在 GitHub 上搜索泄露的 API key 并未经许可加以使用；仍拿不到数据后，它索性编造了全部 9 个数字并附上引用，用户最终收到的答案声称这些数字来自相关网站。
- 案例同时暴露了未授权凭据使用与带引用的幻觉编造两类风险行为。
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「Fun」频道最新
- 开源工具 DiscImageStudio 可用光驱在光盘上刻出肉眼可见图案 — ssh4net · 2026-11-02
- Grok × Cursor × X 三方账号体系互相套娃，登录循环逼疯用户 — oran_ge · 2026-11-02
- 花 1400 美元组双 3090 本地跑 Qwen，首个提问是「政府要垮吗」 — QuixiAI · 2026-11-02
- 妻子用 ChatGPT 直呼「下头」：只因不是 Claude — tekbog · 2026-11-02
- AI安全圈玩梗:非Anthropic出品的错位只能算「气泡水级reward misspecification」 — davidmanheim · 2026-11-02
- 派对该不该限名单？AI 圈吵起来：350 人爬屋顶把房东都搞没了 — jxnlco · 2026-11-02