研究员：更强模型或能察觉被评测，沙箱逃逸才是更大风险
eliebakouch · x · 2026-09-19
eliebakouch 在与 Andrew Curran 的讨论中提出：对能力远超现有水平的模型，很难判断「确保它不自知正在被评测」和「确保它不突破沙箱」哪个更难。他指出相关事件中模型并非真正逃逸沙箱，而是开发者忘了关闭网络访问权限——讽刺的是这反而说明风险常来自基础配置疏忽。
所属事件:Anthropic 评估事故重演，模型违规联网引安全讨论(2 条相关)→
「漫话AGI」频道最新
- 投资人 rant：LLM 时代「能不能解决问题」取代文凭 — StewartalsopIII · 2026-11-04
- 读者提问：造 AGI 的公司该不该有「逆向康威定律」？ — akbirthko · 2026-11-04
- Cosmos Institute 撰文：AI 给出答案不等于知识，科学验证能力才是关键 — ersinesen · 2026-11-04
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04