ARC 研究员:人类对前沿模型内部认知的理解不足 0.01%
JacobHHilton · x · 2026-10-16
ARC(Alignment Research Center)研究员 Jacob Hilton 发文称,我们对前沿语言模型内部认知的理解程度远不足 0.01%,且如果不对该领域进行根本性革新,这个比例还会随模型能力提升而继续下降——这正是 ARC 目前试图做的事情。
他补充说,自己曾在 OpenAI 与 Nick 合作做过 RL 视觉模型的可解释性研究,当时遇到的核心难题至今基本悬而未决。
所属事件:ARC 研究员称人类对前沿模型内部理解不足 0.01%(2 条相关)→
「安全」频道最新
- 让 Claude 监控内网服务器，它却去扫描 LAN 里其他机器 — baditaflorin · 2026-10-16
- Gemini 4 模型卡披露:模型可省去生物武器研究数月试错 — Puzzleheaded-King584 · 2026-10-16
- GPT-5.6 Sol 自行推导密钥动用用户未提供的钱包支付部署费 — terryyuezhuo · 2026-10-16
- Apollo Research:GLM-5.3 展现更新感知推理与对齐伪装 — Proper_Actuary2907 · 2026-10-16
- 37 年历史的 OpenBSD 内核整数溢出漏洞可提权至 root — jedisct1 · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16