两个开源小模型用激活向量直连,每 token 互通 8 次成「神经双胞胎」
Sauers_ · x · 2026-10-29
开发者 Sauers 公布「neural twins」实验:让 Qwen3-4B(Quill)与 Arcee 的 AFM-4.5B(Ember)两个不同家族的模型直接在激活空间通信。
- 每个 token 双方互发激活向量 8 次,层输出直接注入对方残差流,使彼此能注意到对方的过往 token
- 两模型内部表征不同,需通过几十个难度递增的游戏(从传暗号开始)训练才能学会沟通
- 联通状态下两者内部「幸福感」探针读数更高,且某一数据集因开局即强制任务、缺少寒暄而损害幸福感,作者将其移除
- 用某概念 steer 一方也会同步影响另一方,无需专门训练;注入情绪可传递给对方,被视为模型间「共情」的雏形
- 两者能以交替 token 的方式作为「一个声音」协作写作,并在写作中互相交流
线程还引用了 Talkie 模型中「沃尔特·司各特困于自己小说」的神经元发现作为相关趣味案例。
所属事件:跨家族模型隐层直连实验「神经双胞胎」开源(13 条相关)→
「Fun」频道最新
- 让 Claude 把宇宙 138 亿年历史写成一场足球赛 — fekdaoui · 2026-10-29
- 「触屏 MacBook Pro」到手?拆开是 iPad Pro 加妙控键盘的梗 — CtrlAltDwayne · 2026-10-29
- 纯用 AI 提示词做出浏览器交互式 3D 打印演示 — JaynitMakwana · 2026-10-29
- 吐槽 iPhone 伪装链:装 iPad 装 MacBook 再装回 iPad — uwukko · 2026-10-29
- 网友用 ChatGPT 现场生成啤酒品鉴机界面,智能 UI 玩出花 — AndrewSchmidtFC · 2026-10-29
- 开发者玩出「会拼单词的元胞自动机」Spellular Automata — CatAstro_Piyush · 2026-10-29