Apple Embedding Atlas 与 LLM 推理手册:嵌入探索和推理系统学习资源
techNmak · x · 2026-09-04
@techNmak 资源系列第 11、12 条:
- Apple Embedding Atlas:嵌入向量盯着数字看很难理解,但探索邻域、簇和离群点就直观得多。该工具支持交互式探索大规模嵌入数据集。
- Modular LLM Inference Handbook:把「LLM 怎么工作」延伸到「LLM 系统如何服务请求」,覆盖 prefill、decode、KV cache、batching、调度、量化、prefix caching 和投机解码等推理系统主题。
「Infra」频道最新
- 腾讯混元 Hy4 预览:770B 总参 49B 激活,原生 1M 上下文 Apache 2.0 — aftahi_ai · 2026-09-05
- Qwen3.8 27B 量化版挤进 24GB 显存跑 10 万上下文，本地模型威胁前沿定价 — ChopSticksPlease · 2026-09-05
- Speechify CEO 谈自建数据中心、被 ElevenLabs 反超与千万美元人才战 — 20VC · 2026-09-05
- 他把本地 LLM 当 3D 打印机用：一年自写 12 个游戏、29 个游戏 Mod — Quebber · 2026-09-05
- 算力变现效率差 5 倍:智谱每兆瓦仅 800-1000 万美元,Anthropic/OpenAI 达 4000-5000 万 — zephyr_z9 · 2026-09-05
- 用户抱怨 AWS 每月自动扣 0.1 美元且用途不明 — kylegawley · 2026-09-05