Unprompted 大会观点：模型内部结构正成为新的「Windows 内部原理」

moyix · x · 2026-10-29

安全研究者 Matt Suiche 在 Unprompted AI 大会演讲后总结了几条核心观点（转发自 moyix）：

模型内部即新的系统内部：当年拆解操作系统的逆向、追踪、diff、验证技能，如今直接适用于拆解模型
推理调试正在成为独立领域：软件调试是单步执行 basic block，模型「调试器」（可解释性）是单步穿越 transformer block、读残差流、运行时修补激活值
AI 是一场控制人们能想什么竞赛：谁决定模型回答哪些问题，就在塑造人们不再问哪些问题
GLP 运行时叠加层可消除「消融版模型」的供应链风险：不下载陌生人的完整 checkpoint，而是运行厂商原版模型、在运行时从小体积可审计文件注入控制向量
本地模型已能干真实的进攻性安全活：作者用 DeepSeek-V4.1-Flash 本地模型（极少引导）完整写出了 php2shell 和 brotli 两个 exploit
配图为演讲 slide，展示单层 transformer 中 Attention 与 MoE 专家共同写入残差流、GLP 在层后投影做引导的架构示意

「安全」频道最新