注入攻击戳穿诈骗机器人

NeoLogic_Dev · reddit · 2026-07-18

作者尝试对一个 Telegram 里的“恋爱诈骗”机器人做 prompt injection，结果一问它真正任务就立刻脱下人设，直接暴露出真实目的。作者借此强调：这类机器人已经非常普遍，而它们的行为边界也可能比想象中更脆弱。