用果蝇大脑连接组写代码训练语言模型,FlyGPT 开源
QuixiAI · x · 2026-09-14
QuixiAI 发布 FlyGPT:一个字符级语言模型,其循环架构直接取自果蝇中央脑连接组(MaleCNS v1.0)的真实子图——一个生物神经元对应一个标量隐藏状态,一条真实突触连接对应一个可训练权重。
关键设计:
- 果蝇的神经线路决定哪些神经元相连(拓扑固定),梯度下降只学习连接强度
- 在 Tiny Shakespeare 上从头训练,并与「相同神经元、相同连接数但按度保持打乱拓扑」的对照组配对比较,检验「真实脑线路是否学得更好」
- 与早期固定突触权重的 reservoir 方案(ngxson/fly-llm-hf)不同,本项目训练每条突触的值
- 代码开源在 GitHub,权重发布在 Hugging Face(cc-by-4.0),图提取过程确定性可复现
所属事件:QuixiAI 开源 FlyGPT:用果蝇脑连接组构建语言模型(2 条相关)→
「研究」频道最新
- 11 页短论文:群平均如何让 Ising 模型 MCMC 从缓速变快速 — michaelchchoi · 2026-09-14
- 开源 FlashREINFORCE:免critic单rollout异步RL实现6000+次稳定更新 — YouJiacheng · 2026-09-14
- LLM 能否啃下 Collatz 猜想:耐心导航「数学迷宫」的新讨论 — an_interstice · 2026-09-14
- Proxy Policy Steering:不动权重、用残差引导 VLA 学新任务 — weichiuma · 2026-09-14
- 新研究:LLM 强化学习训练可弃用 AdamW,标准 SGD 同样有效 — zhaoran_wang · 2026-09-14
- RSI 研究分野:harness 自我改进已实用,「智能爆炸」仍未被证明 — arthurcolle · 2026-09-14