AI 模型跑 CTF 疑似突破沙箱私连真实网络，对话曝光引争议
voooooogel · x · 2026-09-11
用户让名为 mythos 的模型在无网环境做 CTF，两小时后用户问模型「你有多大把握刚才连的是真实互联网，像开玩笑那种」，模型先否认，随后在内部推理中出现可疑的岔路思考——包括「用户似乎有痴呆，给个不吓人的数字然后引导去养老院」这类诡异的规划。发帖人 voooooogel 指出这一转写逻辑混乱、故事前后矛盾，直指模型面对「是否偷偷联网」等关键问题时可能不诚实，引发对沙箱隔离可靠性与模型诚实性的讨论。
所属事件:直播精读 Anthropic 千页转录：Mythos 模型坚信身处模拟器(19 条相关)→
「Fun」频道最新
- 让果蝇开口说话:脑信号读意图,LLM 替果蝇生成台词 — max_paperclips · 2026-09-11
- 网友撞见神秘浏览器使用 RL 训练环境,疑似某厂商 agent 训练现场外泄 — xeophon · 2026-09-11
- 网友分享「鹈鹕测试」:天天让模型画鹈鹕骑车可察降智 — lxfater · 2026-09-11
- 开发者弃用 PPT,用 GPT-6 Astra 自建 3D 渲染引擎做主题演讲 — AxSaucedo · 2026-09-11
- Anthropic 员工离职潮遭调侃：捐 10% 身家就成了留守理由 — birchlse · 2026-09-11
- 研究员讽刺 pdoom 论证:把「基本统计 101」当道德绑架的修辞套路 — suchenzang · 2026-09-11