新基准 TASTE 测模型能否预判安全研究者的方案偏好
amankhan · x · 2026-09-08
Anthropic 安全研究员 Joe Benton 转发了新发布的评测基准 TASTE（The AI Safety Taste Evaluation），认为它可能是衡量「AI 是否走在有帮助的正轨上」的最佳信号之一。
- 核心问题：随着 AI R&D 自动化，能否同样自动化 AI 安全研究？
- TASTE 由 @hasanbaig8 构建，测量模型能否预测资深 AI 安全研究者会更偏好哪些研究提案，以此检验模型在安全研究任务上的「品味」是否与人类专家对齐
- 出发点是：模型能力越强，让它们协助 AI 安全研究这类关键任务就越重要
所属事件:TASTE 新基准测试模型能否预判安全研究者偏好(2 条相关)→
「安全」频道最新
- 「我们只有一年时间修复所有安全问题」:AI 时代安全告急 — saikatsg · 2026-09-08
- Marcus 转发观点：我们并不在 AGI 时代，Agent 工作流连监控都没做 — GaryMarcus · 2026-09-08
- 创业者:黑客鲜少入狱,AI 将把攻击放大百倍 — bindureddy · 2026-09-08
- AI 公司应被视为非人格化组织，靠规则治理而非影响个人 — joshua_saxe · 2026-09-08
- 开发者做屏保工具,专治 LG 智能电视偷窥式广告追踪 — taylorfinley · 2026-09-08
- Marius Hobbhahn：2026 年 AGI 安全开局黯淡，reward hacking 更黏更蠢 — kalladomcdowell · 2026-09-08