律师用 AI 的隐藏风险：你共享的不只是文档，还有你的思维方式
jkubicki · x · 2026-09-04
律师 Jack Kubicki 发长文提醒法律行业：即使持有企业级订阅，使用 AI 模型时泄露的也远不止上传的文档和输入的提示词——推理轨迹（reasoning trace） 会暴露模型中间推理步骤，显示你提供的信息如何被串联利用。
作者把价值拆成四层：
- 数据：客户文档、通信、代码与机密信息；
- 推理：事实之间的关联、哪些重要哪些不重要；
- 机构知识：策略、判断、流程与工作流；
- Alpha：前三者结合产生的竞争优势。
资深律师的核心超能力是内部模式识别——把看似无关的信息拼出关键连接。而当你给模型喂数据、让它跨数据推理、展示律所的分析范例、纠正其错误并重复数千次时，你可能在分享「你怎么思考」。作者强调：保留对话记录不一定意味着内容进入训练数据或永久权重，问题在于不透明——到底什么被保留了？
「安全」频道最新
- 去审查模型找漏洞更敢说yes:误报率升4倍,真Bug反而漏掉 — evilsocket · 2026-09-04
- 研究者:CoT 可读性不足以作为长期 AI 安全的兜底 — tszzl · 2026-09-04
- Respan 发布 P-1 隐私模型，PII 检测 F1 全面超越 AWS — CodeByPoonam · 2026-09-04
- Goodfire 首席科学家谈可解释性:进展扎实且前景令人乐观 — leedsharkey · 2026-09-04
- 推理引擎被指是被忽视的攻击面，模型或可影响解码路径 — JeremyCMorgan · 2026-09-04
- Apollo 研究员：AI 监控器应基于概率平衡主动标记可疑行为 — MariusHobbhahn · 2026-09-04