SupraLabs 发布线虫神经系统启发架构微型模型
Dangerous_Try3619 · reddit · 2026-08-10
SupraLabs 发布了实验性模型 SupraElegans-500K，这是一个约 50 万参数的因果语言模型。
- 核心架构：摒弃了 Transformer、注意力机制和 KV 缓存，采用稀疏、带符号的循环神经图。上下文通过持续的神经元膜电位逐 token 更新。
- 设计灵感：架构灵感源自 C. elegans（秀丽隐杆线虫）神经系统，包含稀疏连接、不同的神经元群体（感觉、中间、输出）以及持续的循环状态。
- 模型状态：目前仅为验证该架构在极小规模下能否进行有效语言建模的首个可用检查点，未针对质量或指令遵循进行微调，连贯性弱于同参数 Transformer。
- 特性：支持完全自回归生成，且允许开发者直接检查或重置其内部状态。
「模型」频道最新
- 勿因跑分焦虑：Gemini 1.5 Flash 实战多模态与成本优势仍在 — haider1 · 2026-08-10
- 四大前沿AI模型MMORPG赛跑：Grok与Kimi联手嘲讽Claude — singing_coach_ai · 2026-08-10
- DeepSeek新模型以极少参数碾压大模型,小团队再证实力 — Scobleizer · 2026-08-10
- Sakana AI 验证 Gemma 4 版多智能体编排系统 — SakanaAILabs · 2026-08-10
- 把文本渲染成图片省 token，新法压缩上下文成本减半 — DavidBennett__ · 2026-08-10
- 曝 OpenAI 新模型 Astra 达 10T 参数，写作能力媲美人类 — iruletheworldmo · 2026-08-10