可解释性工具受挫：不如直接阅读转录文本
a_karvonen · x · 2026-08-22
研究测试了三种在先前审计游戏中成功的基于激活的工具：激活预言机、自然语言自编码器和SAE。结果显示，在诊断原因和预测提示编辑结果的任务中，这些工具均未击败直接阅读对话文本。该结果在不同超参数、提示词和Fable目标循环下均表现稳健。
所属事件:Anthropic 研究：可解释性工具难敌直接读文本(15 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- Perplexity 开源 SPACE:Firecracker microVM 隔离每个 agent 任务 — perplexity_ai · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16