Anthropic 发布 TASTE 基准：模型评判安全研究提案仅 60%，逊于人类
maksym_andr · x · 2026-11-14
Anthropic Alignment Science 团队（Fellows Program）发布 TASTE（The AI Safety Taste Evaluation）基准，测量模型评判成对 AI 安全研究提案的能力，以资深人类研究者的偏好为标准。
关键设计与结果
- 基准含 92 对提案，通过「讨论阶段」（研究者先讨论分歧再改分）和过滤只保留自报「强信心」的标注，达到约 77% 的估计人类一致性。
- 表现最好的模型 Fable 5 仅 60%，低于人类研究者——评判安全研究「品味」这类难以验证奖励的任务，模型仍明显落后。
意义：若要自动化 AI 安全研究，评估研究提案是高杠杆环节——选错方向浪费大量资源，而这类能力无法用可验证奖励衡量，TASTE 提供了度量工具。maksymandr 指出，METR 相关图表中 Benchmark 14 显示各模型几乎无进展，猜测其测的正是这种「研究品味」。
所属事件:Anthropic 推出 TASTE 基准，模型评判安全研究远逊人类(3 条相关)→
「安全」频道最新
- 美参院拨款委员会推进 FY27 法案,力保美国 AI 领先地位 — peterwildeford · 2026-11-14
- 伦敦 AI×加密圈热议：用密码学证明给 AI 推理与训练上锁 — DavideCrapis · 2026-11-14
- 研究员预测：网络攻击恐慌将引发对开源模型的全面监管打压 — max_paperclips · 2026-11-14
- FBI 警报：黑客滥用开源智能体框架 ARTEX 自动化网络入侵 — Kyrannio · 2026-11-14
- 评论：英国 AISI 或成其在 AI 时代最大战略筹码 — JacquesThibs · 2026-11-14
- 密歇根博士生退学去旧金山做AI安全，学术界的又一个人才出口 — avt_im · 2026-11-14