本地跑模型建议:Mac 上用 gpt-osx-20b 或 Qwen
JoshPurtell · x · 2026-09-02
作为对学习路径建议的补充,指出可以通过构建 Eval、尝试 CoT、RL 和 System Prompt 来实践。在本地硬件(如 Mac)上,推荐使用 Tinker 运行 gpt-osx-20b 或 Qwen 2.5 0.8b 等模型进行实验。
所属事件:资深传统 ML 工程师如何转型 LLM 领域(4 条相关)→
「Infra」频道最新
- Cloudflare Agents 支持 OpenTelemetry 追踪,可直连 Braintrust 评估 — ritakozlov · 2026-09-02
- 进步派拉比谈数据中心禁令:为环保劳工争取筹码的策略 — joshua_saxe · 2026-09-02
- 英特尔高官:AI 时代安全需从硅片底层设计 — BenBajarin · 2026-09-02
- PyTorch 2.14 发布:2995 次提交,487 位贡献者参与 — PyTorch · 2026-09-02
- Exllamav3 实测:8x3090 跑出 700tk/s — Leflakk · 2026-09-02
- GLM-5.3 模型推出 GGUF 量化版,适配端侧部署 — unsloth · 2026-09-02