Intel 显卡体验:3K 元跑 Qwen3.8 27B 116k 上下文
Accomplished_Yard636 · reddit · 2026-08-20
作者分享了使用约 3K 元成本的 64GB Intel 显卡在游戏机上运行 Qwen3.8-27B BF16 的体验。在 116k FP8 token 上下文下速度约为 16 tps,足以满足编程需求。作者特别称赞了其无需额外工具即可直接使用的 suspend 功能,比 Nvidia 的方案更方便。
「Infra」频道最新
- DSCO Router 推出多模型统一网关,支持自带账号自动路由 — arthurcolle · 2026-08-24
- 开源方案 RobotSoul:为 Agent 提供上下文重置后的持久身份 — robauto-dot-ai · 2026-08-24
- 将 MoE 模型卸载至 RAM 运行会遭遇极慢的 Prefill — former_farmer · 2026-08-24
- Etched获10亿美元融资,Jane Street领投验证专用芯片 — TheTuringPost · 2026-08-24
- ConvRot 量化方法入驻 llama-cpp,Q6 接近 Q8 精度 — giveen · 2026-08-24
- LifeOS:基于本地模型的语音驱动个人管理工具 — Extension-Bid-639 · 2026-08-24