EDSL 拟支持激活捕获与探针转向，服务 LLM 社会模拟研究

soumitrashukla9 · x · 2026-09-16

Expected Parrot 创始人 johnjhorton 回应一项新研究对 EDSL 工具的使用，宣布将在 EDSL 中加入激活捕获、探针训练与推理时转向（model steering）支持，并考虑以 Modal 作为托管后端。

• 动机论文《Interpreting and Steering LLM Agents for Social Simulations》在社交模拟任务上对比了三类方法：基于 prompt 的操纵、稀疏自编码器（SAE）特征转向、探针方向转向；论文已用 EDSL 跑实验，含自定义 Goodfire 控制器桥接 SAE 转向，探针实验用 PyTorch/HF 钩子加 scikit-learn 逻辑回归。
• 关键发现：在创造力任务上，强 prompt 基线可以胜过 SAE 转向——因此提案强调强 prompt 基线应成为标配。
• 这也是一次工具作者与研究团队公开迭代的案例：研究者如实公布做法，工具方据此规划功能路线（GitHub Discussion #2651）。

原文链接 →

「编程与Agent」频道最新

• 把索引当微调模型:Weaviate 播客聊查询理解的 RAG 玩法 — CShorten30 · 2026-09-16
• Cloudflare Browser Run 上线 guardrails:限定 hostname 的安全浏览器沙箱 — ritakozlov · 2026-09-16
• Graph Engineering：把 Agent 脚本升级为状态机架构 — Pavan_Belagatti · 2026-09-16
• Benzi 代理少读 55% 代码,SWE-bench 达 78.2% 单次修复不到 1 毛 — DonkeyTheKing · 2026-09-16
• 一周连轴转差旅，Codex remote 成唯一生产力 — reach_vb · 2026-09-16
• AI 编码产出多 25%,代码重复率却飙升 81%,隐性成本浮现 — rseroter · 2026-09-16

更多「编程与Agent」频道 AI 资讯 →