NVIDIA 发文：AI 安全是工程问题，需覆盖 agent 全栈
nordicinst · x · 2026-09-21
NVIDIA 博客提出，AI 安全是工程问题，需要明确的安全需求、可执行的控制、明确责任人及防护有效的证据。要点：
- 技术变化但安全基本盘不变：建立身份、控制访问、限制暴露面、验证防护有效
- AI agent 带来推理、调用工具、根据数据调整行动等新能力，需把既有原则应用到新运行条件
- 安全依赖完整 agent 栈：模型提供能力，harness 组织上下文与工具流，runtime 提供执行基础设施，各层都需控制措施
- 文章以 agent 更新客户记录时遭遇恶意指令为例，说明数据、指令、动作在系统中流转时逐层防护的必要性
「编程与Agent」频道最新
- Factory 新员工入职一月:企业 AI 之争胜在基础设施而非 demo — maddiehfaulkner · 2026-11-12
- 两人小公司用 46 个 AI Agent 运营：审批门禁、哈希锁文件与翻车复盘 — dkovl · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- Manhattan 字体 v0.0.1：每个字母都是一个 Python 函数 — allanyu_ · 2026-11-12
- 用 Backplane「提示词造出」任意扩展卡,网友呼吁扩展口回归标配 — _Stocko_ · 2026-11-12
- Agent 会话跑了 51 分钟烧 24.8 万 token,网友直呼还在干活 — _Stocko_ · 2026-11-12