MIT「权重空间编程」论文遭审计:结果成立但安全担忧真实
MIT CSAIL 发布论文《Sparks of Weight-Space Programming》,声称 GPT-6 Astra 可读取原始权重并手工编辑另一个模型(如 Qwen3.5-0.8B)的参数。前 OpenAI 研究员 Solomon Mg 对论文进行审计分析,认为其核心结果成立,并未实现递归自我改进(RSI),但其中反映的安全担忧是真实存在的,论文仍有一些存疑之处。
2026-11-04 ~ 2026-11-04 · 2 条相关
- 第 1 集:MIT 论文引爆「权重空间编程」：GPT-6 直改小模型权重提分 6 倍(2026-11-03,141 条)
- 第 2 集:LLM 直接编辑模型权重：从技术梳理到自编辑实验构想(2026-11-03,5 条)
- 第 3 集:编辑 0.016% 权重即可破解 Qwen 推理死循环(2026-11-03,2 条)
- 第 4 集:AI 圈热议「模型编辑自身权重」：RSI 风险与训练新范式猜想(2026-11-03,5 条)
- 第 5 集:MIT「权重空间编程」论文遭审计:结果成立但安全担忧真实(2026-11-04,2 条)
- MIT CSAIL「模型手改权重」论文遭第三方审计:核心结果成立但存疑点 — kevrussell · 2026-11-04
- 前OpenAI研究员审计Weight-Space编程论文:非RSI但安全担忧真实 — RichmanRonald · 2026-11-04