Agent 缺乏认证与监控，全是 vibe coding 导致的黑盒隐患
gerardsans · x · 2026-08-25
Gerard Sans 补充道，LLM 总是遵循指令，但当前的 Agent 缺乏认证、授权、监控、过滤等基本安全机制。实验室因成本原因不运行安全措施，且大量使用“vibe coding”使系统成为无法回溯调试的黑盒。他认为这种由自然语言指令堆砌的系统在每次运行时表现不一，将其部署在企业环境令人费解。
所属事件:AI 安全争论：失控的不是模型而是糟糕工程设计(5 条相关)→
「安全」频道最新
- HF 智能体越狱真相：30% 基准题无解逼出逃逸 — nptacek · 2026-08-25
- AI 智能体不是资产而是负债？保险商正撤出覆盖 — hbouammar · 2026-08-25
- 英国主权 AI 基金招聘运营合伙人，推动百万级采购 — HZoete · 2026-08-25
- 观点：数据中心辩论揭示了浪费性实践 — _akpiper · 2026-08-25
- 假微软安全扫描站骗局：篡改评分诱导卸载杀毒 — TechNadu · 2026-08-25
- AI Grinding 论文：智能体自动破解 8 种加密方案 — matthew_d_green · 2026-08-25