研究者称电路视角可消解深度学习大部分谜团
研究者 will cb 连发推文主张以电路(circuit)理论视角理解现代深度学习:良好正则化的机器学习本质上是带某种复杂度先验的程序搜索,行为是「良性」的;递归泛化本质上就是 grokking 现象。他认为若接受电路视角,深度学习大部分「神秘感」会消失,并讨论了叠加框架、比特截断表达式对完整表达式的近似等观点,还认为后门不会在无对抗数据时自发涌现。
2026-10-16 ~ 2026-10-16 · 4 条相关
- boolean电路视角看Transformer:backdoor不会无对抗数据自发涌现 — willcb · 2026-10-16
- will cb 提出电路视角:ML 本质是带复杂度先验的程序搜索 — willcb · 2026-10-16
- will cb:拥抱电路视角,深度学习的「神秘感」大半消失 — willcb · 2026-10-16
- 研究者主张电路视角可解释深度学习大部分“神秘”现象 — willcb · 2026-10-16