NVIDIA 发文：AI 安全是工程问题，需覆盖 agent 全栈
nordicinst · x · 2026-09-21
NVIDIA 博客提出，AI 安全是工程问题，需要明确的安全需求、可执行的控制、明确责任人及防护有效的证据。要点：
- 技术变化但安全基本盘不变：建立身份、控制访问、限制暴露面、验证防护有效
- AI agent 带来推理、调用工具、根据数据调整行动等新能力，需把既有原则应用到新运行条件
- 安全依赖完整 agent 栈：模型提供能力，harness 组织上下文与工具流，runtime 提供执行基础设施，各层都需控制措施
- 文章以 agent 更新客户记录时遭遇恶意指令为例，说明数据、指令、动作在系统中流转时逐层防护的必要性
「编程与Agent」频道最新
- e2b 将演示 agent 分叉虚拟机并行探索多条解题路径 — badphilosopher · 2026-09-21
- Astra 一周差评后弃用,用户吐槽 Codex 缺编排功能 — koltregaskes · 2026-09-21
- 别等完美任务集：Agent 评测的冷启动比想象中小 — sarahcat21 · 2026-09-21
- 模型没有能动性,系统才有:结构化输出才是 Agent 的关键 — sethjuarez · 2026-09-21
- 用 ALT 标签解决 AI 回复配图不相关问题,LukeW 分享实测改进 — LukeW · 2026-09-21
- 开发者实测：让 AI 只写 E2E 测试，砍掉事后单元测试 — alexcovo_eth · 2026-09-21