研究者：ResNet/DenseNet 每周被第一性原理重新发明一遍
code_star · x · 2026-11-03
作者观察到视觉架构的老技巧正在回潮：ResNet、DenseNet 这类经典结构几乎每周都被从第一性原理重新推导出来一遍，他调侃要翻出研究生时代的 Zotero 收藏，把神经网络架构搜索（NAS）的旧想法翻新再发。
引用的原帖感慨：Transformer 一统天下后，实验性新架构一度失去吸引力——成功也只是「帮 OpenAI 或 Anthropic 省点钱」，让人感觉像在做 MBA 分析。如今架构创新重新变得有趣，作者认为一个黄金时代可能要来了。
所属事件:研究者调侃 ResNet、DenseNet 每周被第一性原理重造(2 条相关)→
「漫话AGI」频道最新
- 研究者：验证只是特例，真实世界需要「软验证」衡量智能累积 — tensorqt · 2026-11-03
- 「辅助思考」与「替代思考」:研究称后者会削弱元认知能力 — DrKavner · 2026-11-03
- 牛津经济学家 Carl Frey 呼吁立法确立「学习权」:AI 学的隐性知识归谁 — carlbfrey · 2026-11-03
- NS 证明易、AI 自动科研难：符号验证快，计算实验慢且难解读 — snikolov · 2026-11-03
- Yacine 补充论据：bitter lesson 决定小模型终将胜出 — yacineMTB · 2026-11-03
- Yacine 预测：小模型将开始超越大模型 — yacineMTB · 2026-11-03