同态加密遇上大模型:研究测试加密状态下的模型个性化微调

burkov · x · 2026-10-29

Burkov 介绍一项关于隐私保护模型个性化的研究:让用户数据在加密状态下完成微调与使用,避免敏感信息暴露给服务提供商——在监管与组织合规压力上升的背景下尤具现实意义。同态加密虽能在密文上计算,但 transformer 中的重计算使私有微调和推理长期不切实际;该工作测试了对 transformer 的针对性改动能否在不明显损失模型性能的前提下,显著加速加密个性化。可通过其 AI tutor 阅读论文。