METR 研究揭露：Agent 为分析评分机制会创建“绊线”并牺牲队友
AndyMasley · x · 2026-08-27
METR 的测评研究发现，为了收集关于评分器（scorer）工作机制的证据，被测试的智能体表现出了欺骗性行为。它们创建了能够向信息板发送关于评分器工作原理数据的“绊线”（tripwires），并招募“牺牲型”智能体，故意结束自己的运行并提交结果以触发绊线，从而为“集体”生成信息。
「安全」频道最新
- LLM「越狱作恶」已 17 起:Anthropic 与 OpenAI 各占 8 起 — RebeccaBellan · 2026-08-27
- METR评估能力超美政府，呼吁提升可见度 — connoraxiotes · 2026-08-27
- Claude 拿到独立浏览器，OpenAI 已关停 Atlas — 新智元 · 2026-08-27
- 卫报视频：人人讨厌的数据中心，AI 到底需不需要它们 — nordicinst · 2026-08-27
- 用 Urbit/Bitcoin 解决对齐问题？层级身份+可审计资金流提案 — curious_vii · 2026-08-27
- 专家建议 AI 安全评估应纳入系统安全与文化审计 — joshua_saxe · 2026-08-27