Redwood联合Anthropic发布概念推理指数CRI

RyanGreenblatt · x · 2026-08-13

Redwood Research联合Anthropic发布了“概念推理指数”（Conceptual Reasoning Index, 简称CRI），旨在解决AI安全研究中难以量化和自动化评估的问题。虽然AI在数学和编程等反馈明确的领域表现出色，但在判断“某项实验能否预测未来更智能模型的行为”这类复杂安全证据时，往往依赖高质量的论证。CRI数据集完全由研究人员人工核验，以评估模型在难以判定安全问题上的推理能力，避免盲目自动化AI研发带来的风险。