ARC 研究员称人类对前沿模型内部理解不足 0.01%

ARC(Alignment Research Center)研究员 Jacob Hilton 发文称,人类对前沿语言模型内部认知的理解程度远不足 0.01%,若不对该领域进行根本性变革,这一状况难以改善。他还回顾了 2020 年与 OpenAI 的 Nick Cammarata 等人合作发表于 Distill 的《Understanding RL Vision》,指出用归因方法解剖强化学习视觉模型的核心难题至今仍未解决。

2026-10-16 ~ 2026-10-16 · 2 条相关

• Distill 经典之作:用归因方法解剖强化学习视觉模型,作者称核心难题至今未解 — JacobHHilton · 2026-10-16
• ARC 研究员:人类对前沿模型内部认知的理解不足 0.01% — JacobHHilton · 2026-10-16