Anthropic 携手埃森哲设驻场评估员,双方各投至少 10 亿美元
zetalyrae · x · 2026-11-19
Anthropic 宣布与埃森哲合作,对其前沿模型做独立评估,落实 CEO《We Must Pace the Frontier》一文中「嵌入评估员」的承诺。合作由埃森哲旗下 AI 业务 Faculty 主导,包括评估与红队测试、对齐评估和安全护栏测试,双方未来五年各投入至少 10 亿美元。与现有外部评估员不同,驻场评估员将拥有接近员工的内部权限,可观察模型训练成形过程、跟踪构建与部署决策、直接与员工对话,从而核查安全承诺的兑现并向公众报告。转帖者 zetalyrae 讽刺 Anthropic 一边宣称 2027 年实现自动化研究员,一边计划用五年期嵌入评估,节奏自相矛盾。
「公司和人」频道最新
- 斯坦福开 CS329Z「AI Agent 工程」课:从零造 RAG 再学 DSPy — stanfordnlp · 2026-11-19
- TomorrowX 大会演讲与访谈视频陆续上线可观看 — PTrubey · 2026-11-19
- HF 与 LangChain 办黑客松:用 AI 智能体复现 NeurIPS 2026 论文 — Gradio · 2026-11-19
- Meta 收购 Conductor 后即关停,T3 Code 日烧 API 超 1000 万美元 — Vjeux · 2026-11-19
- 黄仁勋之后首次英伟达全员会:高管小组出面,员工提问寥寥 — steph_palazzolo · 2026-11-19
- 从 Denny's 洗碗工到 CUDA 豪赌:黄仁勋 33 年创业史 — r0ck3t23 · 2026-11-19