安全研究者提议用 AI 逆向二进制控制流,强化操作系统级防护
joshua_saxe · x · 2026-09-13
安全研究者 Joshua Saxe 提出一个 AI 安全防御思路并征求同行意见：利用 AI 程序分析带来的运行时保护新可能，由操作系统厂商落地。
- 设想 AI 研究突破能从二进制程序中提取「预期控制流图」，进而把程序套上更强的控制流完整性（CFI）防护。
- 若成本低廉，OS 可强制所有新二进制经过这种逆向工程流程，再纳入改进的 CFI 系统运行。
- 更一般的推论：若 AI 能可靠推断二进制背后的程序员意图，就能更紧地约束程序动态行为，有望消除大量漏洞利用空间。
「安全」频道最新
- Anthropic CEO Dario Amodei：愿与政府建立 AI 联合治理机制 — AlexTensor · 2026-09-13
- RubyGems 遭 AI agent 蜂群大规模攻击,注册暂停数百包涉漏洞 — AccBalanced · 2026-09-13
- VulcanBench 转型:从企业实际 AI 用法切入安全评测,区别于 METR — tristanbob · 2026-09-13
- 反对给 AI 巨头反垄断豁免：史上最大公司该用最高标准审视 — sarahbmyers · 2026-09-13
- Meta 详解 Muse 个人 Agent 安全架构:隔离沙箱加不可覆盖的 Sentinel — alexandr_wang · 2026-09-13
- SPP 论文提出从预训练第一个 token 就植入助手人格,提升对齐与越狱鲁棒性 — _arohan_ · 2026-09-13