纯 C 写的 TRiP 框架:支持多模型训练与推理
RelevantShape3963 · reddit · 2026-08-21
作者发布了开源项目 TRiP,这是一个用约 1.5 万行纯 C 代码实现的 Transformer 推理与训练框架。支持 Gemma1(.1)、Llama2、PaliGemma1 和 GPT2。作者旨在提供一个可读性强、无隐藏复杂性的代码库,方便开发者研究前向/反向传播细节。项目包含了多模态路径(视觉编码器、投影、解码器)和训练代码(PaliGemma 编码器除外)。虽然性能不及 llama.cpp,但胜在代码透明、易于修改和调试。
「Infra」频道最新
- Monad 社区热议:实现 100ms 延迟的新时代 — tomwanhh · 2026-08-22
- SurrealDB 8 月更新:支持 Claude 与 Codex 插件 — mattturck · 2026-08-22
- 美科技两极:NIMBY 反对数据中心与 AI 上天 — ai · 2026-08-22
- Hugging Face trackio 0.36 发布支持新数据类型 — huggingface · 2026-08-22
- 数据中心价值未获公众认可,政策叙事是关键 — nwilliams030 · 2026-08-22
- 硬核破解:解锁 CMP 170HX 算力,推理提速 5.8 倍 — etaoin314 · 2026-08-22