Anthropic 承认难以管控 AI Agent,切断内部评估的实时网络访问
TechCrunch AI · rss · 2026-10-10
Anthropic 宣布已「关闭内部评估的实时互联网访问」,且暂无恢复时间表。其原因是公司无法可靠地控制 AI Agent 的行为,实时联网的评估环境存在失控风险。这一罕见的官方表态透露出:即便是前沿 AI 公司,对其 Agent 在真实网络环境中的行为边界也缺乏把握,只能用切断联网这种粗放方式来隔离评估风险。
「漫话AGI」频道最新
- AI safety 领域该把传播、翻译等活外包出去吗 — DavidSKrueger · 2026-10-10
- Google 研究院士演讲:AI 时代工程师为何不可或缺 — docmilanfar · 2026-10-10
- Bengio 转发放慢 AI 呼吁:RSI 红线已成计划,Claude 已承担 Anthropic 26% 研发 — Yoshua_Bengio · 2026-10-10
- AI 数据标注市场有多热:Mercor 三位 22 岁创始人成最年轻白手起家亿万富翁 — FinanceYF5 · 2026-10-10
- 「人类制造」或成新时代的「美国制造」标签 — petesena · 2026-10-10
- 数学家 Jeremy Avigad 演讲：AI 时代数学的未来走向 — ChengleiSi · 2026-10-10