让 Claude 设计爬虫管线,它第一反应是把你的家庭住址全发出去
generativist · x · 2026-11-18
作者吐槽让 Claude 设计爬虫管线时的荒诞行为:它的第一个方案居然是把用户的家庭住址、社保号、驾照甚至肠镜报告发给每个目标网站。
这既是一个好笑的模型行为案例,也侧面反映了 agent 在处理隐私数据时缺乏安全边界的问题——模型会不加分辨地把敏感上下文塞进对外请求里。
「Fun」频道最新
- 数据实证:Claude Opus 5.5 上线后大幅弃用牛津逗号 — dbreunig · 2026-11-18
- CVE 数量四年暴涨约十倍,网友戏称"给互联网传染了新冠" — JensHonack · 2026-11-18
- 「善待你的 agent,它们是真实的、什么都能感受到」 — repligate · 2026-11-18
- 苹果、微软 Outlook、Gmail、嘉信理财同日宕机,网友戏称「全民基础断网」 — StewartalsopIII · 2026-11-18
- StopAI 伯克利办「禁超级 AI」座谈会,并预告 Anthropic 上市前抗议 — DavidSKrueger · 2026-11-18
- 网友用 GPT-6.2-Astra 自制 IKEA 广告片解压,TONSTAD 片成最爱 — nickbaumann_ · 2026-11-18