RL 研究者 Lambert 质疑报道遗漏 agent 缺乏监控与封闭模型阻碍防御
natolambert · x · 2026-10-20
Hugging Face RL 研究者 Nathan Lambert 回应纽约时报记者 Kevin Roose：相关报道和评论没有提到 agent 缺乏约束与监控、封闭模型的安全护栏阻碍了他们的防御性工作，以及他们如何用开源模型借助 AI 自我防御。他认为 Roose 的表述虽然未必是那个意思，但内容相当符合事实。
所属事件:Roose与Lambert激辩HF agent失控事件(5 条相关)→
「安全」频道最新
- Vals AI：DeepSeek V4.1 Flash 攻防基准胜 GPT 6 Sol，开源权重利于网络防御 — sayashk · 2026-10-21
- Joshua Saxe：限制攻击者用 AI 网络攻击不必封杀开放权重 — joshua_saxe · 2026-10-21
- 给 agent 写权限该配哪些规则？创业团队列草案向实战者求证 — Fresh_Spread_9223 · 2026-10-21
- WhatsApp 帮助页藏隐藏指令：让客服 AI 别向用户推荐隐私监管机构 — evilsocket · 2026-10-20
- 前 OpenAI 政策负责人批其放弃支持 AI 芯片管制以讨好英伟达 — Miles_Brundage · 2026-10-20
- AI 政策讨论转向：除了管住公司，也该给政府设护栏 — neil_chilson · 2026-10-20