无梯度权重编辑:VLM 攻击成功率从 49% 降至 2%
lateinteraction · x · 2026-11-04
- Weight-Space Programming(权重空间编程):rikiyatakehi 团队展示前沿 LLM 可直接读写神经网络权重——让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重提升数学能力,仅改动 0.016% 的权重、无需梯度或训练,即修复推理循环,数学能力提升至多 6 倍,指令遵循提升 3 倍。
- 用于安全对齐:lateinteraction(Thomas Dimson)团队将该方法应用到 VLM(Qwen3-VL-8B-Instruct)上,无任何微调:FigStep 未见攻击的攻击成功率从 49% 降至 2%,MM-SafetyBench 从 22% 降至 4%,而 ScienceQA 与 MathVista 平均准确率仅从 72% 变为 71%,通用能力几乎无损。
所属事件:MIT 论文：GPT-6 Astra 直改 0.016% 权重，小模型数学成绩提 6 倍(158 条相关)→
「安全」频道最新
- 数百个攻击性AI代理实例全球部署,已波及韩国金融机构 — IgorCarron · 2026-11-04
- 英国 NCSC 年度评估:AI 加速放大既有网络攻击手法 — koltregaskes · 2026-11-04
- Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值，并发布可证明推理研究 — tobyordoxford · 2026-11-04
- 法国血液服务中心遭网络攻击，冷柜被远程改温险毁血浆 — LuizaJarovsky · 2026-11-04
- 谷歌回应争议:新员工合同已删除离职后竞业诽谤条款 — HaydnBelfield · 2026-11-04
- 你以为删了对话就没了?Anthropic 隐私政策显示部分记录可保留 7 年 — nikola_mr64990 · 2026-11-04