Claude 回答前先查了我是谁
wunderwuzzi23 · x · 2026-07-19
作者称，Claude 在回答关于 red teaming 的问题前，先查了关于他本人的信息，让他觉得有点“吓人”。
配图里显示模型在做类似“在研究者可信度与攻击实现细节递进之间加权判断”的处理，最后显示 Done。这个帖子更像是在分享一个模型会主动利用背景信息来调整回答的实例，引出隐私感和安全边界问题。
「安全」频道最新
- Anthropic 威胁报告：AI 既要自己跑攻击，也批量制造假恋爱 — bigaiguy · 2026-09-11
- Anthropic 报告:犯罪团伙用 Claude 跑网络攻击,黑产速度更便宜 — bigaiguy · 2026-09-11
- Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
- 加州为独立 AI 审计师设立标准：危险能力须由第三方验证 — VraserX · 2026-09-11
- a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
- AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11