Anthropic 公布三项指标:衡量 AI 参与自身研发与监管透明度
pstAsiatech · x · 2026-09-18
Anthropic 发布一套度量框架,帮助公众追踪前沿实验室内部 AI 发展节奏,涵盖三个维度:
- AI 参与 AI 研发的程度:多少研发工作由 AI 而非人类完成,即 AI 开始"自动化自身构建"的进度
- 对自主 Agent 的监督能力:对 AI Agent 在 Anthropic 系统中执行动作的监督与干预水平
- 算力分配:支撑更强模型开发的算力资源分配情况
Anthropic 同时公开了内部这些指标的当前快照,并表示如果按 CEO Dario Amodei 呼应的方式对前沿发展进行协调减速,这些数字会随之变化。公司还计划引入多家机构的独立第三方评估者,让其访问与内部风险评估团队相当的流程、系统和数据,用于验证安全实践、报告事故并持续监测关键指标。
所属事件:Anthropic 发布三项公开指标追踪 AI 自我研发进程(2 条相关)→
「公司和人」频道最新
- John Lewis 圣诞广告遭差评:劝阻现金礼卡背后的商业算盘 — aakashgupta · 2026-11-04
- 技术创始人转型 CEO:讲故事是绕不开的核心工作 — paigeinsf · 2026-11-04
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- DeepMind 与 Cognition 将在 AI 工程师 Code Summit 前办攀岩社交局 — osanseviero · 2026-11-04
- 谷歌回应争议:新员工合同已删除离职后竞业诽谤条款 — HaydnBelfield · 2026-11-04
- FT 曝光埃森哲 AI 论文充斥幻觉内容遭舆论抨击 — nordicinst · 2026-11-04