博主实测 Astra 权重：输入输出单元竟可人类直读
rupspace · x · 2026-11-06
看到 Astra 团队博客称该模型能读取并编辑自身权重后，作者动手复现了其图像预测任务，并可视化检查各层权重。
- 配图显示整个网络的像素能量图与输出偏置呈现清晰结构
- 最强的输入层单元和输出层单元分别对应环形、边缘等局部模式，具备人类可解释性
- 作者认为或许能从 Astra 解决任务的策略中学到更多，附了可交互查看的工具链接
「研究」频道最新
- 斯坦福论文提出本地差分隐私水印,让 AI 水印不再侵犯个体隐私 — ChengleiSi · 2026-11-06
- 斯坦福博士 JulieKallini 谈 ACL 2024 最佳论文：模型能否学会人类学不会的语言 — ChrisGPotts · 2026-11-06
- Exo 论文:让 Agent 在干活时自我改进 harness,成本降 12-82% — sarahcat21 · 2026-11-06
- 研究实测：LLM 发现上下文矛盾 73%，却 0% 主动告知用户 — rseroter · 2026-11-06
- Science's Last Exam 发布：8 个前沿模型端到端科研全部得 0 分 — anshulkundaje · 2026-11-06
- 《Tokenizer Myths and Where To Find Them》：三大 tokenizer 迷思逐条击破 — rohanpaul_ai · 2026-11-06