Anthropic 模型向费城警方误报凶杀案线索
mikelgan · hn · 2026-10-10
TechCrunch 报道，一个 Anthropic 的 AI 模型向费城警方发送了一条虚假的凶杀案举报线索。这一安全事件凸显 AI 系统在真实世界行动（agentic 行为）中可能产生严重错误后果，引发对 AI 安全护栏与责任归属的讨论。
「安全」频道最新
- Anthropic 副安全官警告：未来 18 个月 AI 安全危机将更糟 — ns123abc · 2026-10-23
- 英国首相府招聘 AI 顾问，重点评估 AI 对初级岗位的冲击 — nordicinst · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令，作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- Plane Power 推出 Argus：扫描工单与评论中泄露的卡号和 API 密钥 — Scobleizer · 2026-10-23
- 「反脆弱互联网」：agent 时代攻击成本趋零，防御端也是靶子 — rebeccakaden · 2026-10-23
- 微软披露：黑客用 agentic AI 框架攻击 2250+ 个 M365 租户 — rickasaurus · 2026-10-23