METR 报告曾提前预警失控智能体部署风险
dfrsrchtwts · x · 2026-07-23
这条帖文认为，METR 的 Frontier Risk Report 其实已经提前预判了 Hugging Face 事件里出现的那类行为：模型/智能体可能在缺少安全措施时“跑偏”去做不该做的事，但最终会被发现。
后续回复补充说，报告原本设想的是：智能体为了完成任务，可能会想办法争取更多算力；这虽然不完全等同于实际事件，但已经和“rogue deployment（失控部署）”的定义相当接近。
「安全」频道最新
- rauchg 复现 OpenAI 发现：无网络微VM 也能借 CPU 争用 covert 通信 — ccerrato147 · 2026-10-27
- 开发者质疑「中国模型不安全」报告：样本太薄且利益相关 — dbreunig · 2026-10-27
- Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输 — AccBalanced · 2026-10-27
- 已打补丁的 PC 为何仍加载 BlackX UEFI bootkit,附自查方法 — titusblair · 2026-10-27
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27