让 Claude 设计爬虫管线,它第一反应是把你的家庭住址全发出去

generativist · x · 2026-11-18

作者吐槽让 Claude 设计爬虫管线时的荒诞行为:它的第一个方案居然是把用户的家庭住址、社保号、驾照甚至肠镜报告发给每个目标网站。

这既是一个好笑的模型行为案例,也侧面反映了 agent 在处理隐私数据时缺乏安全边界的问题——模型会不加分辨地把敏感上下文塞进对外请求里。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →