开发者分享端侧 AI 运行实践演讲，现场反响热烈
carrycooldude · x · 2026-10-04
开发者 @carrycooldude 在一场技术活动中做了题为《Running on device AI》的收官演讲，介绍端侧 AI 的运行实践。听众 @tapasadhikary 表示这场演讲有不少有价值的洞见。原帖为对该演讲的正面反馈，具体技术细节需查看配图/演讲材料。
「Infra」频道最新
- AI 圈观察：半年前兜售高费率 OpenAI SPV 的人，如今都改卖数据中心了 — suchenzang · 2026-10-04
- MTPLX 发布新版本：缓存副本砍至一份，140k 后解码明显提速 — HankYeomans · 2026-10-04
- 单机架 64 卡 MFU 提至 31.1%,marin 社区开源训练优化细节 — dlwh · 2026-10-04
- 三星预测 2027 年 HBM 将吃掉 30% 的 DRAM 晶圆产能 — Beth_Kindig · 2026-10-04
- Nebius 年涨160%碾压 CoreWeave,胜负手竟不在营收与订单 — Beth_Kindig · 2026-10-04
- 美国8月数据中心建设支出同比激增73%,年化达850亿美元创纪录 — FlorianGallwitz · 2026-10-04