无需读论文：四步用本地小模型和 Claude 玩转 mech-interp
burny_tech · x · 2026-10-29
@neuralavb 分享机械可解释性（mech-interp）的极低门槛上手路径：只需能本地跑模型加一个好用的编码 agent 即可开始。步骤：1）准备一组 prompt 或对比数据集，前向传入可本地运行的小模型（如 Qwen3.5 的 0.8B/2B/4B 版本）；2）从 dense 模型某一层取出所有神经元激活值；3）优先看 MLP 神经元，因为它们常有特权基（privileged basis）；4）把激活数据直接丢给 Claude 等 LLM agent 分析特定神经元，也可配合主题检测等标准技术做手动分析。作者认为这是深度学习中最酷且入门门槛最低的领域之一。
「编程与Agent」频道最新
- 开源 Orinyx 明日发布：用 MCP 独立验证医疗 AI Agent 输出 — Practical_Green5775 · 2026-10-29
- DHH:最强程序员用 AI 与最弱不用者差距可达 1000 倍 — tristanbob · 2026-10-29
- 开源 Stackchan 桌面机器人:会聊天跳舞放梗图,附完整搭建指南 — alexcovo_eth · 2026-10-29
- Addy Osmani：你在过度提示 Claude，新模型只需一个目标加验证方式 — addyosmani · 2026-10-29
- 让 Hermes 学习 OPNsense 文档，15 分钟搞定防火墙优化 — Teknium · 2026-10-29
- 用 Gemma 4 做交互式鬼屋游戏，478 个问题实测防剧透护栏 — Extreme_Ad5709 · 2026-10-29