Cascadia 构建许可制点对点 AI 推理网络
techne98 · reddit · 2026-10-02
Cascadia 发布博客,介绍如何构建一个需要许可(permissioned)的点对点 AI 推理网络,探讨去中心化推理基础设施的设计与实现。
「Infra」频道最新
- 开源模型上手三步指南:从选型到本地部署再到接入工具 — every · 2026-10-02
- 社区优化赛跑出 1900 tps prefill,较基线提速约 2.5 倍 — HankYeomans · 2026-10-02
- 等不了长合约?RunPod 等 GPU 自助云可即时开通算力 — DavidLinthicum · 2026-10-02
- Apex Compute 为自研 AI 芯片开发开源 Mesa Vulkan 驱动 — Fcking_Chuck · 2026-10-02
- 开发者发布 Qwen3.8-Flash 低比特量化:保留 95% 精度且长上下文不衰减 — Crampappydime · 2026-10-02
- 单卡 R9700 跑 Qwen3.8-Flash-Next:230k 上下文下 863 t/s prefill、35 t/s 解码 — Designer_Elephant227 · 2026-10-02