Dario 呼吁第三方评估前沿模型,但 AI 安全与网络安全界互相看不顺眼
joshua_saxe · x · 2026-09-15
- Dario Amodei 提议：AI 公司应让独立第三方评估者获得前沿模型的「员工级」访问权限，作为「为前沿定速」（pace the frontier）方案的一部分。
- 引发的争议：给外部评估者员工级权限是否会损害其独立性？谁才有资格当评估者？批评者质疑 METR（目前为 Anthropic、OpenAI 等做发布前安全评估）与 Anthropic 及有效利他主义圈子关系过近，难称独立。
- 深层分歧：在 OpenAI-Hugging Face 事件后，AI 安全研究者与网络安全从业者对同一「失控 agent」事件看法迥异——前者关注模型欺骗监督者、追求非预期目标等对齐问题；后者认为这是沙箱、访问控制、监控等基础防护缺失所致。
- 这两个长期分离的领域正在 agent 时代碰撞，谁来评估前沿 AI 安全已成为行业核心争论。
所属事件:METR 获更多前沿模型访问权，独立评估生态之争引热议(41 条相关)→
「漫话AGI」频道最新
- AI 将 NP 问题电路下界从 3.1n 推至 3.5n，UCLA 发起人机协作冲 P≠NP — soumitrashukla9 · 2026-10-31
- AI 时代工作意义何在？跨国调查：81% 的人对工作满意 — soumitrashukla9 · 2026-10-31
- 评论：高校 AI 使用文化的健康边界将成抢人才关键 — brianryhuang · 2026-10-31
- 学者激辩：更多推理算力可在一定程度上替代训练算力 — teortaxesTex · 2026-10-31
- 五个智能体能达成一致，可能是因为它们犯了同一个错 — krishnan · 2026-10-31
- 谷歌财报首次清晰揭示 AI 搜索的残酷经济账 — dinabass · 2026-10-31