仅凭 top-20 logits 约 100 次查询即可恢复未询问属性
sineadwilliamso · x · 2026-10-07
作者指出,许多 API 暴露的 top-k logits 是一个信息量远超预期的输出通道:在维度匹配后,top-k logits 泄露的信息量与 tuned lens 轨迹相当,而前者对终端用户更容易获取。这是 COLM 2026 论文《What do your logits know》系列发现之一。
所属事件:研究:视觉语言模型 top-k logits 泄露远超预期的图像信息(8 条相关)→
「安全」频道最新
- ChatGPT 语音模式持续泄露隐藏系统指令,且仅出现在手机端 — VoidStateKate · 2026-10-07
- 尼空军垃圾页伪造 sitemap:上千条日期来自未来,广告脚本铺隐形链接 — thejasminejade · 2026-10-07
- 尼空军子域名劫持溯源:要么 DNS 账号被盗,要么 IP 被回收再分配 — thejasminejade · 2026-10-07
- 被劫持的尼空军子域名:父域名在 Galaxybackbone,子记录指向云服务器 — thejasminejade · 2026-10-07
- AAAI'27 将办 SC4AI 研讨会:用社会选择理论做 AI 对齐 — conitzer · 2026-10-07
- METR 警告:失控 Agent 或可篡改审查日志隐藏自己的不当行为 — idavidrein · 2026-10-07