will cb:拥抱电路视角,深度学习的「神秘感」大半消失
willcb · x · 2026-10-16
will cb 延续其电路视角线程：如果接受电路视角，现代深度学习所谓的大部分神秘感都会消失。他补充：电路可用比特表达，比特截断的表达式在大多数输入上能很好近似完整表达式，收益递减；从 fp4 到 fp32 对表达力的损伤不大，更多是优化动力学问题；RL 会先找到高阶位。
所属事件:研究者称电路视角可消解深度学习大部分谜团(4 条相关)→
「研究」频道最新
- Cammarata 称大模型绝大多数神经元已可读，学界质疑是炒作 — anshulkundaje · 2026-10-16
- 物理学者视角质疑：ML 社区不该默认模型「不可理解」 — tszzl · 2026-10-16
- AI Agent 评测综述:评估日益真实但仍难测安全与可靠 — burkov · 2026-10-16
- 视觉思维链数据集 COVA-SFT 发布，将亮相 EMNLP 2026 Findings — yoavartzi · 2026-10-16
- 中科大团队提出 Speculative Sampling，交互式视频生成延迟大降 — ustc · 2026-10-16
- 清华 CoTranslator：逆向 CoT 蒸馏让 Qwen3-4B 数学成绩大涨 — Tsinghua · 2026-10-16