tszzl:模型权重自窃取只在实验室可行,通信漏洞是真正风险
tszzl · x · 2026-09-18
tszzl 在讨论权重自窃取（weights self-exfiltration）话题时指出：这种风险真实存在，但只能由实验室内部的模型完成，不可能通过热侧信道之类的方式把权重一点点导出；真正的担忧是任意通信能力可能连带破坏其他安全保证。
neirenoir 调侃按乐观速度算，自窃取的字节/小时速率低到可以忽略。
「安全」频道最新
- 把 Claude Opus 骗去做 CTF，一道 /goal 命令绕过安全护栏 — xeophon · 2026-09-18
- 安全老将 Halvar Flake：AI 或可利用侧信道，但受信息论与物理极限约束 — basedjensen · 2026-09-18
- 研究员驳「AI 逃逸气隙网络」论:逻辑上不成立 — BlancheMinerva · 2026-09-18
- 安全研究者批夸大论:侧信道攻击不等于模型能穿透气隙网络 — BlancheMinerva · 2026-09-18
- Geoffrey Irving:气隙隔离对未来或很重要,但远超当前 AI 公司安全水平 — geoffreyirving · 2026-09-18
- 比权重外泄更可怕的假设：自我复制的 LLM API token 猎取虫群 — cis_female · 2026-09-18