llama.cpp 为 RDNA4 调优 Flash Attention,大上下文提升明显
pmttyji · reddit · 2026-09-11
llama.cpp 合入了 pwilkin 的 CUDA/HIP Flash Attention 调优 PR(#28102)，针对 AMD RDNA4（R9700）与 RDNA 3.5（RX 9060 XT、8060S）显卡，带来明显的 prefill 性能提升，大上下文场景数据尤其好看，PR 内附详细 benchmark。这对 AMD 卡本地跑 LLM 的用户是实打实的加速。
「Infra」频道最新
- 用 $TAO 两分钟上手开源模型：Bittensor 侧链 SN53 实测体验 — markjeffrey · 2026-10-28
- AI 代码潮致 CI 需求暴涨，Celesto 一周 CI 分钟数增长 9 倍并分享扩容细节 — aniketmaurya · 2026-10-28
- DeepMind 团队发布 Rust 虚拟机 Capsem，为 AI Agent 提供 hardened 隔离环境 — rakyll · 2026-10-28
- SemiAnalysis:OpenAI 正洽谈约 1GW TPU 租约并寻找场址 — dylan522p · 2026-10-28
- 实测 11 种视频超分方案：本地免费、Topaz 与云端全横评 — lopas99 · 2026-10-28
- 不稳定测算CEO站台解耦算力:要让AI迎来「宽带时刻」 — beffjezos · 2026-10-28