Anthropic 早期员工与前 METR COO 创业,专管失控 AI Agent
ThereWas · reddit · 2026-09-15
据 TechCrunch 报道,一位 Anthropic 早期员工与前 METR(模型评估机构)COO 联合创办了新公司,专注于约束「失控」的 AI agent。
METR 是以评估前沿模型危险能力著称的机构,两位创始人将评估与治理经验转化为面向 agent 安全的创业方向,产品目标是给自主运行的 AI agent 加上可控的缰绳。这反映了 agent 安全正从研究议题走向商业产品化的趋势。
「编程与Agent」频道最新
- AI Engineer 大会 Harness 专场:去掉模型后 agent 还剩什么 — Roger_M_Taylor · 2026-09-15
- 开源项目 MoneyPrinterTurbo:一句想法自动产出成品短视频 — Roger_M_Taylor · 2026-09-15
- 5 个 markdown 文件并发 15 个功能:一人软件工厂工作流曝光 — Roger_M_Taylor · 2026-09-15
- Agent = Model + Harness:Google 工程师拆解系统提示词自动重写循环 — Roger_M_Taylor · 2026-09-15
- 用 4 个提示词做图工程：让 Claude Code 找回 78% 找不到的工作 — Roger_M_Taylor · 2026-09-15
- Gumroad 创始人把《极简创业》改造成 Claude Code 命令指导经营 — thisiskp_ · 2026-09-15