「广告是人类版的 prompt injection」,一针见血的类比引热议
maksym_andr · x · 2026-11-16
开发者 Maksym 提出一个反直觉类比:广告本质上就是针对人类的 prompt injection——恶意第三方(广告主)试图在看似正常的内容(网页)中注入指令,说服用户执行某个动作(比如购买商品)。
他的推论是:人类对这种说服攻击的平均鲁棒性其实很差,差到几乎整个互联网都靠广告运转。他指出这个类比的价值在于方法论:当我们思考如何教 AI 抵御 prompt injection 时,很多对自身的盲区会突然变得清晰。
「漫话AGI」频道最新
- 研究者称「数据驱动科学方法多是胡扯」,AI for Science 才有前途 — tak3sh8 · 2026-11-16
- 美国计算机专业入学两年暴跌 18%,本科生今秋再降 12% — Fowe · 2026-11-16
- 写完让 AI 重写初稿,100% 被 AI 检测器误判为 AI — aronchick · 2026-11-16
- 反转推演:AI 接管若造出大量意识观察者,或指向长周期而非末日 — jessi_cata · 2026-11-16
- AI 安全学者:公司若一年内或致公众死亡,NDA 也压不住 — DavidSKrueger · 2026-11-16
- Gary Marcus 宣称神经符号 AI 已大胜:引擎不等于整辆车 — GaryMarcus · 2026-11-16