密码学学者:沙箱难防更强模型,「弱模型监督强模型」不可持续
matthew_d_green · x · 2026-09-28
密码学家 Matthew Green 就 AI 安全沙箱讨论表态:当前模型尚未严重失准,沙箱在弱威胁模型(如 prompt injection、意外行为)下或许有效,OpenAI 在这方面的投入明显不够。但他认为沙箱不是长久之计——现有方案本质上都是「希望一个稍笨的模型能有效监督更聪明的模型」,这意味着你必须信任模型本身,而这在更强模型面前站不住脚。
所属事件:密码学家 Green:沙箱只是 AI 安全一层,跨界数据流监控才是无解难题(6 条相关)→
「漫话AGI」频道最新
- Roger Martin长文:直觉正遭AI系统性围剿,战略制定者该如何应对 — RogerLMartin · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- Reddit 说「AI 是泡沫」,Twitter 在讨论「活不过 2027」:同个行业两种氛围 — Puzzleheaded-King584 · 2026-11-16
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16
- Netflix 拿下 Joseph Gordon-Levitt 执导的 AI 惊悚片,Rachel McAdams 加盟 — ShakeelHashim · 2026-11-16
- 卡内文学奖在 AI 代写质疑下确认 2026 年获奖者 — ShakeelHashim · 2026-11-16