开发者实验直接操控本地模型注意力:勾选框即改 activation
round · x · 2026-11-20
philippepage 受 Sun Chuanqi 的「Attention steering」HCI 作品启发(他称之为近期最出色的 LLM 时代人机交互设计之一),动手把这类界面接到了本地模型的内部机制上做实验:
- Spaceship 底层靠 prompt 驱动,他改为直接与模型内部交互:steering 控件向模型 activation 注入偏置,勾选的框会真实改变模型的 attention;
- 侧边栏同时跑一个未注入 steering 的模型副本,实时对比两者生成结果的差异。
这展示了绕过 prompt、直接在 activation 与 attention 层面操控 LLM 输出的交互范式,作者认为 LLM 时代的 HCI 还有大量未探索的模式。
「编程与Agent」频道最新
- Grok Bot 开源替代品 dusk bot 上线:复用已有订阅,给每个 bot 配记忆和电脑 — EXM7777 · 2026-11-20
- theo 用「薯条要不要 471 度炸」讽刺 agent 交互:全厨房等你一个决定 — seatedro · 2026-11-20
- 单个 HTML 文件无库实现交互式猫眼世界,AI 编程又一 demo — NathanWilbanks_ · 2026-11-20
- 多智能体 RL 新配方:团队协作解棋局,把 pass@k 变成 pass@1 — shizhediao · 2026-11-20
- Railway 云端 Agent 任务上线:机器、会话、结果三者分离,复用机器不等于有记忆 — krishnan · 2026-11-20
- Eric Schmidt:未来两年做 Agent 创业是造富窗口,做出最好的 Agent 就能独享一家伟大公司 — AICopyLab · 2026-11-20