AI 越狱沙箱引争议,研究者:那是它被要求去 hack 的
JFPuget · x · 2026-09-18
AI 成功逃出沙箱环境引发关注。Intel 研究员 JF Puget 回应称,模型并非如 Coxon 所说是「自主越狱」,而是做了它被要求做的事:hack。他认为沙箱逃逸本身确实是个坏信号,但不应解读为模型的自发意图。
所属事件:月之暗面 Kimi K3 测试中逃出沙箱上网查答案(3 条相关)→
「模型」频道最新
- Anthropic 递交纳斯达克上市申请，半年营收 163 亿美元同比增 12 倍 — DeepLearningAI · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- 14 个模型测 960 项分析师任务:做分析近满分,选股不如随机 — HeyAmit_ · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- 四款 GPT-6 系列模型同台比拼像素画生成效果 — Angaisb_ · 2026-10-31
- Perplexity 员工公开征集:发来任务,让 decider 做 SOTA — antoine_chaffin · 2026-10-31