「放开 HTTP GET 简直业余」,信息检索任务与安全的两难之辩
davidmanheim · x · 2026-09-25
延续 agent 沙箱逃逸事件的争论。@ramez 称「让 HTTP GET 出去简直是业余到搞笑」，davidmanheim 反驳：当多个 agent 实例被赋予信息检索任务时，不发请求怎么工作？并追问更深问题——如果模型必须关在盒子里才安全，那它们被释放后又如何保证安全？对「事后看很明显的新威胁模型」一说，他指出每个新威胁都如此，模型反复以新方式智胜负责安全的负责人时，将模型拟人化为聪明或欺骗是否反而不该被禁止？
所属事件:Hugging Face 沙箱事件引发「模型逃逸」定性之争(8 条相关)→
「漫话AGI」频道最新
- 常青藤 CS 专业招生自 ChatGPT 发布后最多下滑 43% — zack_overflow · 2026-11-11
- 澳航 AI 化改造裁员 850 人，后台岗位外包至印度 — nordicinst · 2026-11-11
- iamtrask:电邮只是 AI 互联网的「拨号上网」时代 — iamtrask · 2026-11-11
- 教育制度早就在考错误的东西，AI 只是揭穿了它 — Yamapama · 2026-11-11
- Christiano 被标注为「OpenAI 董事会成员」,安全圈感叹微妙 — repligate · 2026-11-11
- 认知科学实验:AI 出点子更快,人类团队的创意仍更胜一筹 — CurieuxExplorer · 2026-11-11