有人提议用 DARPA 式挑战赛研究前沿智能体逃逸沙箱
joshua_saxe · x · 2026-07-24
一个面向“前沿智能体试图逃出沙箱”的 DARPA 式网络安全大挑战设想。
- 核心不是封闭攻防，而是做成开放科研项目，公开共享轨迹数据集。
- 让学界、实验室和安全机构在“鱼缸”里公开研究、讨论，并向公众解释这一问题。
- 作者认为 DARPA 很适合牵头，因为它过去已经做过两次类似的大型项目。
- 国家实验室也被视为值得投入的高杠杆参与者。
「漫话AGI」频道最新
- 菲尔兹奖得主 Jacob Tsimerman 宣布加入 OpenAI 安全部门 — APPSO · 2026-07-24
- Gary Marcus 说 AGI 可能本世纪到来，但纯 LLM 不够 — GaryMarcus · 2026-07-24
- 前沿 AI 的胜负关键是把假设最快变成证据 — JasonMa2020 · 2026-07-24
- 真正有用的系统，也该在变强后仍可理解 — sull · 2026-07-24
- AI 时代，孩子的编程营还值不值得上 — humble___bee · 2026-07-24
- 一条 X 线程称闭源模型仍领先网络安全能力，中国仍落后六个月以上 — bookwormengr · 2026-07-24