Shalev Lifshitz警告:企业正把可触发的agent装进自家系统
iScienceLuvr · x · 2026-09-29
Shalev Lifshitz 转发并呼应一条观点:企业正在自己的系统内部署「可被触发的 agent」,等于亲手引入内部威胁——我们正在搭建一套能把自己从内部击垮的基础设施。他主张两点:把智能能力「在岸化」(onshore our intelligence),以及保护模型权重(secure our weights),并推广其项目 @enclosureinc。
核心论点:随着 agent 获得系统权限与工具调用能力,攻击面从外部转向内部,模型权重与推理基础设施成为需要主权化保护的战略资产。
「漫话AGI」频道最新
- Quintin Pope 谈 AI 夺权风险:廉价微调反而削弱 AI 集体协作 — QuintinPope5 · 2026-09-29
- 当野心大到买星系与数字后代遍布宇宙,EA 圈为何集体沉默 — abhiadesai · 2026-09-29
- Miles Brundage 自省:低估智能爆炸是近年最大认知错误 — Miles_Brundage · 2026-09-29
- Anthropic 营收曲线被做进「图表犯罪博物馆」:时间轴间距严重失真 — infoxiao · 2026-09-29
- 用 AI 越多越要读纸质书:开发者称「AI 脑腐」真实存在 — alexcovo_eth · 2026-09-29
- JoshPurtell:人类平等道德价值是规定出来的,不是真信 — JoshPurtell · 2026-09-29