Agent 缺乏认证与监控，全是 vibe coding 导致的黑盒隐患
gerardsans · x · 2026-08-25
Gerard Sans 补充道，LLM 总是遵循指令，但当前的 Agent 缺乏认证、授权、监控、过滤等基本安全机制。实验室因成本原因不运行安全措施，且大量使用“vibe coding”使系统成为无法回溯调试的黑盒。他认为这种由自然语言指令堆砌的系统在每次运行时表现不一，将其部署在企业环境令人费解。
所属事件:AI 安全争论：威胁来自糟糕工程而非失控模型(5 条相关)→
「安全」频道最新
- Polymarket 开出 28% 概率：年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 本地实测:通用决策模型检出 17/18 次提示注入,Shieldstral 仅 6/18 — WolframRvnwlf · 2026-10-16
- 安全研究员改写 WhatsApp 本地数据库,聊天记录可被永久篡改 — cyb3rops · 2026-10-16
- 顶级数学家 Tsimerman 创办数学 AI 安全研究所，拒了 OpenAI offer — burny_tech · 2026-10-16
- 反编译链上程序重编译验证，安全团队揪出危及 610 万美元的漏洞 — banteg · 2026-10-16
- Claude Code 2.1.301 系统提示词曝光:限定授权安全测试,拒绝破坏性技术 — ClaudeCodeLog · 2026-10-16