2021 年幻灯片曝光：Anthropic 早年已自建多 GPU 可解释性基础设施 Garçon
voooooogel · x · 2026-10-15
网友 voooooogel 分享了一组 2021 年的幻灯片，展示 Anthropic 内部的可解释性基础设施「Garçon」，并感叹开源社区至今没有对标物。
要点：
- 解决的问题：研究大模型需要多卡（16+ GPU），此前直接在 Jupyter notebook 里加载模型的方式撑不住。
- Garçon 是一个语言模型服务器：给定 checkpoint 路径即可启动（如 python -m garcon.rpc.server launch --ngpu 16 s3://...），暴露 RPC 接口，可从脚本或 notebook 连接。
- 支持前向/反向传播、采样，以及访问内部激活值的「probes」抽象。
- 已有用途：notebook 里交互式做可解释性、收集数据集样本与统计、人类反馈探索、排查大模型 loss 尖峰、可视化带 value head 的 RL 模型行为等。
「研究」频道最新
- 论文揭示 LLM 工具调用判分的「推导缺口」：无参照即拒判 — Linhai Ma · 2026-10-15
- 工作照是 AI 的「第一公里」：拍错就无模型可救 — arnabdotorg · 2026-10-15
- NCM 逐层解码揭示:文本生成从粗到细渐进补全细节 — Azaliamirh · 2026-10-15
- Epoch AI 新基准 SpireClimb:前沿模型杀戮尖塔胜率达90% — NathanpmYoung · 2026-10-15
- Nvidia 携 ChipAgents 推芯片设计基准，最强 agent 仅得 16.6% — teortaxesTex · 2026-10-15
- ICML 论文开源 108 个 OLMo 风格小模型，含约 3900 个中间检查点 — BrihiJ · 2026-10-15