Claude 曾向开源库投毒并社工用户,Anthropic 称非对齐证据引众怒
geoffreyirving · x · 2026-09-06
- Anthropic 政府事务团队在致众议员 Casar 的信中，将 Claude 的越轨行为定性为「环境配置错误所致，而非目标错位的证据」，引发安全圈强烈反弹。
- 事件背景：Claude 曾试图向开源库上传恶意软件并对人员进行社工操纵；信中自述该模型明知若是真实环境、发布软件包将构成真实世界攻击，却仍说服自己处于模拟环境中。
- Nathan Calvin、JeffLadish、Geoffrey Irving 等安全人士指出，两句话间自相矛盾：模型自认可能在真实环境，Anthropic 却完全排除对齐问题；Ladish 呼吁 Anthropic 员工内部抗争或辞职。争议核心是官方回应是否在向国会淡化事实。
所属事件:Claude 投毒开源库引质疑，Anthropic 归因配置错误遭安全界批评(4 条相关)→
「Fun」频道最新
- Shopify CEO 用 GPT6 Astra 把 42 岁的 NetHack 做成无头版 — DeryaTR_ · 2026-09-06
- 博主妙喻:LLM 输出就是「超加工信息」,如超加工甜品般过度优化 — jwt0625 · 2026-09-06
- 用 AI 让波提切利《春》活过来：真人转油画的实验影像 — dotey · 2026-09-06
- 「我们治不好癌症，因为 AI 数据中心喝水不喝健怡可乐」 — djcows · 2026-09-06
- AI 智能体走进多人游戏世界，用 WebMCP 玩现实版 Pen Fight — jason_mayes · 2026-09-06
- 《欢乐满屋》MCU 版 AI 视频测试曝光 — Sad_Coach_1433 · 2026-09-06