模型自改权重引担忧：或构成递归自我改进循环

围绕 LLM 直接编辑权重的技术，业界出现激烈讨论。Paul Graham 表示最可怕的是这类突破竟被描述为「正常的一年」，暗指 AI 进步速度已快到反常。rickasaurus 则警告权重编辑像又一层俄罗斯套娃式的潘多拉魔盒，质疑如何验证模型到底改了什么；他进一步指出，若模型能通过编辑自身权重变得更擅长编辑权重，就构成了一个极紧凑的 RSI（递归自我改进）循环。

2026-11-03 ~ 2026-11-03 · 3 条相关