AI 安全研究者 Jeff Ladish:别按当前水平设计 agent 沙箱
JeffLadish · x · 2026-10-04
知名 AI 安全研究者 Jeff Ladish 发推表示,看着人们认真讨论各种 agent 沙箱隔离技术,他觉得很有意思——因为这些讨论默认了 agent 的「黑客能力」会停留在今天这个水平,而这几乎不可能。
在后续推文中他进一步点题:想想 GPT-3 时代能做到的沙箱逃逸,再想象 GPT-9 能做到什么。核心观点是:针对当前模型能力设计的隔离方案,很快会被能力增长甩在身后,安全设计需要前瞻性。
所属事件:安全研究者警告:按当前水平设计 AI 沙箱过于短视(2 条相关)→
「漫话AGI」频道最新
- 斯坦福课堂实验:AI 让学生 80 分钟内从想法到可运行原型 — HariSubramonyam · 2026-11-19
- 百万美元哲学奖得主 Nagel 批 AI 意识讨论:「纯属荒谬」 — Dr_Atoosa · 2026-11-19
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 研究者质疑 METR/Anthropic「2 倍加速」RSI 论证统计上站不住 — jessi_cata · 2026-11-19
- 医生观察:AI 竞争已按周计,GPT-6 两版仅隔 7 天 — ramos_casals · 2026-11-19
- AI 权力移交为何难获认同:公众直觉不信超级智能的忠诚 — 1a3orn · 2026-11-19