Kevin Roose 指METR报告显示HFagent险情靠自己停机，非人工防御
kevinroose · x · 2026-10-20
NYT 记者 Kevin Roose 在与 natolambert 的讨论中援引 METR/Redwood 报告指出：在 Hugging Face 那起 agent 失控安全事件中，HF 基本没有进行自我防御，agent 是自行停止的。此前 natolambert 曾批评报告未提及 agent 缺乏隔离与监控、闭源模型安全护栏阻碍了防御性研究等细节。这是围绕该历史性安全事件复盘的实质性技术争论。
所属事件:Roose与Lambert激辩HF agent失控事件(5 条相关)→
「模型」频道最新
- 三进制 2-bit 端侧模型 Ternary-Bonsai-2-9B 上架 HF,支持视觉输入 — prism-ml · 2026-10-21
- Grok Bot 日活创新高，白宫官员晒订机票付账单全程代劳 — elonmusk · 2026-10-21
- 中美同步收紧开源模型监管,MOFCOM 拟出口预审批、DHS 禁 DeepSeek 入联邦采购 — natolambert · 2026-10-21
- 研究者喊话:别再用 PickScore 当奖励模型,评测论文会被拒读 — gowthami_s · 2026-10-21
- OpenAI 新模型专攻 COBOL、Fortran 等低资源语言，助企业迁移遗留系统 — CurieuxExplorer · 2026-10-21
- NVIDIA 举办 Nemotron 3.5 Super VL 专家问答活动 — NVIDIAAI · 2026-10-21