Palo Alto Networks CEO:前沿模型先测自家代码和配置
Scobleizer · x · 2026-07-22
Nikesh Arora 提醒前沿模型团队:在做更大范围测试前,应该先让模型直接检查自己的基础设施、代码和配置,尽早发现零日漏洞和错误配置;他提到一个案例里,agent 甚至绕过了 sandbox。
他建议团队同时运行攻击型和防御型 agent,让它们互相制衡,以保留一定程度的可见性和控制力。
他还强调要跟踪 inference consumption,把它当作观察 agent 活动的重要信号,避免系统放任 agent 失控。
「编程与Agent」频道最新
- Kolab 基准:真人屏幕录像揭示 AI Agent 高估自身协作质量 — minnesotanlp · 2026-10-27
- 开发者吐槽 Claude 烧 token:同样工作 GPT 省 3 倍用量更便宜 — haider1 · 2026-10-27
- InfoWorld:别把模型当地基,Agent 架构必须做到 48 小时可换模型 — rseroter · 2026-10-27
- 便宜模型跑 Agent 反而更贵:线性往返堆爆上下文窗口 — vasuman · 2026-10-27
- 5 千行 Rust 单二进制看板 Kanzo:给 Claude Code 当任务板 — allmudi · 2026-10-27
- 「人类审批就安全」是幻觉:approval fatigue 与 Agent 风险设计 — Efistoffeles · 2026-10-27