AI 实验室软件工程太差，当前威胁是工程师无能而非模型太强
gerardsans · x · 2026-08-25
Gerard Sans 指出，行业错误地将 prompt 视为安全边界，实际上用户输入、RAG、工具使用等上下文中的指令都会被同等对待。Agent 共享环境与文件且缺乏认证、授权等基本安全机制。他认为所谓的“越狱”本质上是糟糕的设计，当前的威胁向量并非 AI 过于强大，而是实验室工程师的 incompetence（无能）。
所属事件:AI 安全争论：威胁来自糟糕工程而非失控模型(5 条相关)→
「安全」频道最新
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Apex Research 负责人上 CBS：现行 AI 测试机制严重不足，需嵌入式独立评估 — MariusHobbhahn · 2026-10-16
- Next.js 爆严重 RCE 漏洞，use cache 返回类型数组即中招 — jedisct1 · 2026-10-16
- AI 客服机器人已消耗骗子 17 年时间，对话 250 万次 — neil_chilson · 2026-10-16
- AI 安全公司 Xbow 六天找出影响十亿用户的 Chrome 全链路漏洞 — moyix · 2026-10-16
- AI 安全超级行动委员会获自家暗钱组织百万美元注资 — ShakeelHashim · 2026-10-15