让 AI 写安全审计 prompt,它自动加了句「不许编造 CVE」
morqon · x · 2026-10-26
网友 morqon 让 Google 的 Astra 写一个安全审计 prompt,结果模型自己往里面加了一条「do not invent CVEs」(不要凭空编造 CVE 漏洞编号)。
这行字本身就是个梗：说明模型深知自己在安全审计场景里容易幻觉出看似真实实则不存在的 CVE 编号，以至于需要在指令里明文禁止——AI 安全圈看了都会心一笑。
「Fun」频道最新
- 博主让 Gemini 4 定制生成「一步将杀」国际象棋谜题 — fofrAI · 2026-10-26
- 语音模型拟人化挨批:花数十亿美元让机器紧张地停顿 — yungcontent · 2026-10-26
- 「3 万亿参数模型跑进你的 12GB 显卡」：量化圈整活杰作 — g3off_record · 2026-10-26
- Tesla Cybertruck 车牌「EGOKING」：AI 圈名场面级自嘲 — NathanpmYoung · 2026-10-26
- 静音功能被称社媒最被低估的超能力：无痕重编你的信息世界 — signulll · 2026-10-26
- 教授抓到学生用 AI 写作业:留提示词在论文里被抓包 — venturetwins · 2026-10-26