Anthropic 发表 Claude 3.5 Haiku 电路追踪生物学报告
burny_tech · x · 2026-10-27
Anthropic 在 Transformer Circuits Thread 发布长文《On the Biology of a Large Language Model》，作者含 Jack Lindsey、Chris Olah 等数十人。团队用电路追踪（circuit tracing）方法逆向工程 Claude 3.5 Haiku 的内部机制，案例涵盖多步推理、诗歌押韵规划、多语言电路、加法运算、医疗诊断、实体识别与幻觉、拒答机制、越狱全程、思维链忠实性，以及隐藏于模型中的错位目标等。作者将理解 LLM 类比生物学：训练算法简单，但产物机制如进化产物般复杂。
「研究」频道最新
- Lean 软件验证大会 SVIL 11 月落地斯坦福,Tegmark 与 Lean 之父亲自开讲 — wellecks · 2026-10-27
- LLM2Cert 发布:LLM+Lean 自动合成安全证书,105 个系统通过 77% — wellecks · 2026-10-27
- FSPO：函数空间时间自蒸馏让 7B/8B 模型推理训练更快更省 — IITK · 2026-10-27
- KAIST DiscoDemo：用 RL 生成多样化机器人演示，真机成功率 39%→78% — DAVIAN-Robotics · 2026-10-27
- AI Evaluator Forum 发布 AEF-1：第三方模型评测的独立性最低标准 — RishiBommasani · 2026-10-27
- 「模型育种」实验开场：组合特定神经元能让 Qwen 自认是饼干怪 — yacineMTB · 2026-10-27