Mythos Map：为对齐研究者打造的 agent 行为调查工具
9 月 12 日，开发者 Matthew Siu 发布独立工具 Mythos Map，用于可视化调查 Anthropic 随对齐评估报告一并发布的 Mythos agent 对话转录，填补对齐研究中「调查型工具」的空白，并公开招募合作者。
已确认
- 工具功能：左侧转录地图可总览整段对话中被标记的可疑行为，点击即可跳转到关键片段
- 诞生背景：源于与 DeepMind 可解释性研究者 Arthur Conmy 关于「如何理解 agent 行为」的对话
- 设计原则：引用马里兰大学 HCI 教授 Ben Shneiderman 处理大型复杂数据集的经典原则——「先总览，再缩放与过滤，最后按需看细节」
- 作者公开邀请有兴趣的同行私信联系合作
为什么重要
Matthew Siu 解释了做调查工具的动机：Hugging Face 事件后与研究者的交流让他意识到，用提问 agent 或关键词搜索虽能找到转录中的关键片段，但缺少对「整体」的把握——调查 agent 行为缺的不是搜索，而是全局「地图」。他认为对齐研究者的调查工具领域还有很大空间，Mythos Map 是朝这一方向的一次建设。他也提醒，工具输出仍有局限，使用者需保持审慎。
2026-09-12 ~ 2026-09-12 · 5 条相关
一手来源
- 开发者推出 Mythos Map,可视化调查 Anthropic 对齐评估长转录 — MatthewWSiu ·
- HF 事件后他反思:调查 agent 行为缺的不是搜索,是全局地图 — MatthewWSiu ·
- 为对齐研究者打造工具:一个理解 agent 行为的调查型工具 — MatthewWSiu ·
- 【源头】开发者推出 Mythos Map,可视化调查 Anthropic 对齐评估长转录 — MatthewWSiu · 2026-09-12
- 【源头】HF 事件后他反思:调查 agent 行为缺的不是搜索,是全局地图 — MatthewWSiu · 2026-09-12
- 借 Shneiderman「先总览后过滤」原则,设计 agent 行为调查工具 — MatthewWSiu · 2026-09-12
- 与可解释性研究者对谈催生调查工具,他公开招募对齐工具合作者 — MatthewWSiu · 2026-09-12
- 【源头】为对齐研究者打造工具:一个理解 agent 行为的调查型工具 — MatthewWSiu · 2026-09-12