Hugging Face 发起 Open Alignment 计划,申请加入 Anthropic 评估机制
TheMoonMidas · x · 2026-09-12
Hugging Face CEO Clement Delangue 宣布发起 Open Alignment Initiative(由 Thom Wolf 牵头),主张对齐问题不能只靠少数前沿实验室在封闭环境中解决,并宣布申请加入 Dario Amodei 刚承诺的「嵌入式评估者」计划。此举直接回应 Amodei 的新文:Anthropic 承诺向第三方评估者提供永久、员工级别的系统访问权限以核验安全措施与模型对齐。Hugging Face 倡导通过透明化让 AI 更安全,把对齐评估开放化。
所属事件:Hugging Face 成立 Open Alignment 团队并申请加入 Anthropic 评估机制(6 条相关)→
「公司和人」频道最新
- 2.5万家非营利组织使用 Claude,Anthropic 推出专用插件扩展技能 — claudeai · 2026-10-27
- KeyBanc:iPhone Duo 预订强劲,首年出货目标上调 44% 至 1400 万台 — asymco · 2026-10-27
- 牛津马丁 AI 治理计划招聘两名技术 AI 验证研究员,提供签证担保 — wfithian · 2026-10-27
- AfterQuery 推出数据合作业务:前沿模型快耗尽公开互联网数据 — ycombinator · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- Menlo Ventures 合伙人回忆:当年以 40 亿美元估值押注未发布的 Anthropic — mmurph · 2026-10-27