巴西法院处罚律师：起诉书中藏 Prompt Injection 企图操纵 AI
doodlesdev · hn · 2026-11-01
一起巴西案件显示，律师在提交给法院的诉状中植入针对 AI 系统的 prompt injection 指令，试图影响 AI 辅助的司法处理，被法院制裁。这是首批因针对法院 AI 系统的注入攻击而受到实际法律后果的案例之一，对法律行业使用 AI 工具的合规边界有标志性意义。
「安全」频道最新
- 研究者担忧 Claude 生物护栏收紧将影响癌症分类研究 — burny_tech · 2026-11-01
- 匿名黑帽组织出天价求用漏洞数据后训练开源模型 — arthurcolle · 2026-11-01
- 研究：自改进智能体会偏离原对齐目标，团队发布 SEABench 基准 — nandofioretto · 2026-11-01
- 爆料称 Claude 会在对话后秘密生成并存储你的「可疑报告」 — alexcovo_eth · 2026-11-01
- MCP 服务器无法识别客户端是否受 BAA 约束，HIPAA 风险引热议 — SongGongSwim · 2026-11-01
- 黑色十月安全事件盘点：Binance 63亿美元被盗等十余起攻击 — teortaxesTex · 2026-11-01