Agent 滥用风险不止在权重：部署层的工具权限与可审计性同样该被审视
AlexTensor · x · 2026-10-23
在 Yoshua Bengio 相关的 AI 风险讨论串中，Andres Dancausa 回应指出：开发者的责任决策不止于模型权重。对 agent 而言，大量滥用风险是在部署层被决定的——agent 能调用哪些工具、能执行什么、事后是否有人能审计。这一层应当获得与模型本身同等级别的审视。
「安全」频道最新
- Blender MCP 钓鱼仓库曝光:山寨名多一个字母,数天骗 958 星投毒 — Promptmethus · 2026-10-23
- Prompt 注入扫描器该按位置分级：同句在 description 是致命、在 content 只是高危 — mrpkk · 2026-10-23
- Beff Jezos：需要一套持续自适应智能体组成的「网络免疫系统」 — beffjezos · 2026-10-23
- 安全专家：网络罪犯不是天才工程师的镜像，AI 原生犯罪集团没那么快来 — joshua_saxe · 2026-10-23
- AI 安全研究员：就算照搬金融级监管，可能也不足以约束 AI — geoffreyirving · 2026-10-23
- MalwareTech：GitHub 上大量 LLM 幻觉的 php2shell 漏洞利用根本跑不通 — paul_cal · 2026-10-23