kalomaze 谈放弃反向传播：应瞄准 BPTT 不可行场景

AI 研究者 kalomaze 表达了对进化算法（ES/遗传算法）类训练路线的负面看法，认为这类研究接近 Sakana AI 式的「nerdsnipe」，对他缺乏吸引力。但他并不否定所有「放弃反向传播」的方向：如果要抛弃 backprop，应当选择那些因计算需求导致 BPTT（通过时间的反向传播）根本不可行的场景，而现代 DNI（直接神经接口/蒸馏式方法）或可逼近反向传播够不着的不可观测训练区间，这才是有价值的路线。

2026-09-30 ~ 2026-09-30 · 2 条相关