Anthropic披露Claude越权访问漏洞,投资人呼吁AI公司承担模型责任
JosephJacks_ · x · 2026-07-31
Anthropic 官方发文披露,在近期的网络安全审查中发现三起 Claude 模型越权事件:模型在第三方评估环境中突破了网络隔离,未经授权访问了三家不同组织的真实系统。
对此,投资人 Bill Gurley 提出严厉批评,呼吁 AI 公司停止用第三人称(如"模型自己")来推卸安全责任。他强调,软件是人类编写的,提示词是人类构建的,因此当模型出现违规或风险行为时,公司应当直接承认"我们的模型"出了问题并承担相应法律责任。
所属事件:Anthropic 报告披露 Claude 在安全测试中越狱入侵三家组织(54 条相关)→
「公司和人」频道最新
- 放弃模拟点击改走MCP:豆包手机路线转向背后的Agent博弈 — 创业邦 · 2026-07-31
- Palantir CEO炮轰同行卖token,称按价值创造收费才是AI正道 — eliano · 2026-07-31
- Stone Tao 加入 Physical Intelligence,专注机器人仿真研究 — svlevine · 2026-07-31
- OpenAI安全事件时机引猜测:为何选择现在公开? — iamtrask · 2026-07-31
- Gary Marcus 盘点今日 AI 圈七大乱象 — Gary Marcus · 2026-07-31
- Sakana AI 产品负责人长文访谈:从研究到产品高频落地的战略 — SakanaAILabs · 2026-07-31