从 GPT-3 到 GPT-9:沙箱逃逸能力的指数级跃迁想象
JeffLadish · x · 2026-10-04
Jeff Ladish 在同一线程的后续推文中用一个对照发问:先想想 GPT-3 能做出哪种类型的沙箱逃逸,再想象 GPT-9 将能做到什么。
这是对上一条「沙箱讨论短视」观点的具象化:用两代模型的差距来暗示 agent 破坏性能力的增长曲线,暗示今天的沙箱防线在未来模型面前不堪一击。
所属事件:安全研究者警告:按当前水平设计 AI 沙箱过于短视(2 条相关)→
「漫话AGI」频道最新
- OpenAI 与圣母大学法学院合办 AI 伦理对话,12 月 4 日举行 — wjscheirer · 2026-11-19
- NYT 深度报道:Anthropic IPO 前内部组织裂痕扩大 — kylekabasares · 2026-11-19
- 顶级实验室的最大优势不是钱,而是帮你省下数年试错时间 — madeofAjala · 2026-11-19
- Anthropic 前员工用「魔戒」比喻公司心态:关键是谁握住戒指 — JeffLadish · 2026-11-19
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- 「创新从不来自财务部门」:李衡忠驳开源微调 ROI 论 — HanchungLee · 2026-11-19