Cohere Labs 安全组讲座：Goodfire 研究员讲全流程模型可解释性
Cohere_Labs · x · 2026-10-20
Cohere Labs 安全与对齐社区将于 10 月 23 日举办线上讲座，由 Goodfire 研究员 Matthew Kowal 主讲《Interpretability Across the Model Design Pipeline》。
内容核心是把可解释性理解为「模型可供性」（affordances）——系统能让你做什么。第一部分介绍将模型激活分解为多维流形而非直线的方法，以造出更好理解和控制模型行为的「旋钮」；第二部分讨论如何在训练过程中直接使用这些可解释旋钮，借助模型自身表征塑造学习过程，同时保持整个过程可解释、可监控。
「安全」频道最新
- 各大 LLM 同场竞技攻防 CTF，可在线围观实时战况 — moyix · 2026-10-20
- EMNLP 论文:痛苦裹进妄想后,LLM 安全干预骤降 4.5 倍 — MaartenSap · 2026-10-20
- Polymarket 押注：美国 2026 年底前通过 AI 安全法案概率仅 7% — Polymarket · 2026-10-20
- FDA 征询如何评审医疗 AI，耶鲁教授：先选对对照基准 — zakkohane · 2026-10-20
- NIST AI 600-1 拆解：生成式 AI 的 12 项风险如何落地成 6 步行动 — anacondainc · 2026-10-20
- Agent 上线前自检：开发者整理 20 问安全就绪清单并附分级 — Then_Respect_1964 · 2026-10-20