利用流式 API 窃取 Gemini 2.5 隐藏架构与优化
delliott · x · 2026-08-27
研究者提出了一种通过普通流式 API 揭示生产级 LLM 隐藏模型架构和未文档化推理优化的方法。在 Gemini Flash 2.5 上，他们观察到在 13 万 tokens 处延迟激增 3.2 倍，从而证实了推测解码 的存在，并发现了一个隐藏的 128K 草稿模型上下文窗口。该研究将此类探索定义为“生成式 AI 考古学”，通过观察公开模型的意外行为或利用其数学特性来挖掘内部秘密。
所属事件:研究借流式 API 时间戳窃取大模型隐藏架构(3 条相关)→
「安全」频道最新
- Proof 发布 x401 协议，AI Agent 首次可证明自己代表谁 — csuwildcat · 2026-10-15
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Fox-IT 公开 Cobalt Strike Beacon 语料库，威胁狩猎迎来新数据集 — cyb3rops · 2026-10-15
- 美国银行投入4000人修复 Anthropic Mythos 等 AI 发现的漏洞 — The Decoder · 2026-10-15
- SAIF 深度对话：2500 万美元用 AI 重写网络防御经济学，护住小城与学区 — a16z · 2026-10-15
- a16z 联手前白宫网络高管推 SAIF：用 AI 免费守住 1800 家乡村医院 — a16z · 2026-10-15