Hilton 给出权重噪声实验参数:N(0, 0.0025²) 通常降低精度 1-10 个点
JacobHHilton · x · 2026-10-18
Jacob Hilton 继续就此前的机制忠实度验证建议补充具体参数:给权重加入 N(0, 0.0025²) 的噪声即可作为测试点,这种量级的噪声通常使精度下降 1-10 个百分点;他也表示其他噪声量级同样值得测试,可用于检验手工重建模型能否机制性地预测精度退化。
所属事件:社区手工重建 16 神经元网络,精度反超原版(3 条相关)→
「研究」频道最新
- AI 已预测约 2 亿个蛋白质结构并免费公开,跳过药物发现最慢一步 — rand_longevity · 2026-10-18
- KAIST 与 DeepMind 提出声明式注意力,让模型自己决定读哪些上下文 — coallaoh · 2026-10-18
- 菲尔兹奖得主 Gowers 警示:AI 太强或让后世失去深研数学的动力 — IgorCarron · 2026-10-18
- SearchJev 搜索智能体系统一模型:决策快 5.3 倍,校准误差降最多 74% — CShorten30 · 2026-10-18
- Astraea 认知架构 17 天进展:修复情感计时与并发缺陷 — Financial_Tadpole121 · 2026-10-18
- 单月 10 万份投稿压垮审稿系统,评论呼吁把 Lean 更早引入流程 — IgorCarron · 2026-10-18