新论文称约90%神经元功能清晰,可解释性临近突破引激辩
The Decoder · rss · 2026-10-16
The Decoder 报道:一篇新文章提出神经网络可能远比研究者想象的更易读——约 90% 的神经元承担清晰可辨的功能。若成立,这对 AI 安全研究是重大利好:欺骗或危险行为有望直接在模型电路中被发现。
不过学界对这一论点是否站得住脚仍存在明显分歧,可解释性领域是否临近突破尚无定论。
「研究」频道最新
- 北大等团队开源 UniForge3D:稀疏多视图图联合做 3D 重建与生成 — camenduru · 2026-10-16
- SpatialClaw 入选 NeurIPS，被用于 NVIDIA Nemotron 3.5 VL 训练数据 — CMHungSteven · 2026-10-16
- 重读 Breiman「两种文化」：预测模型从来不是干净的 — beenwrekt · 2026-10-16
- Caltech 团队发布 ReRoute：无需干预实验即可预测科学反事实 — FrancescoLocat8 · 2026-10-16
- AI 抢不走人类的品味：模型只会做常见的东西，而人脑天生奖励新奇 — tejaskumarlol · 2026-10-16
- Hugging Face 上线 AI4Science 热力图，79 家机构贡献开源科研资产 — anshulkundaje · 2026-10-16