Strata 模型实测:agent 负载 100 tks 但端口占用问题频发
GodComplecs · reddit · 2026-10-14
Reddit 用户寻求 Strata 模型的真实缺点反馈,信息两极:有人称无损,有人称损失明显。楼主自己的实测:在 agent 工作负载下 Strata 跑到约 100 tokens/s,而类似尺寸的 Qwen 27B 在 llama.cpp 上只有 40-60 tks;但 Strata 在聊天中出现奇怪的循环问题,且在引擎端口分配上喜欢选用已被占用的端口,Qwen 27B Q4 UD 没有这个问题。因 Swift Q3 Next 尺寸在 llama.cpp 上只有 15-20 tks,对 agent 工作太慢,楼主未测试。总体印象是「好得不太真实」,希望社区给出客观缺点。
「Infra」频道最新
- Mesa 扩展 NPU 能力:合并 YOLOX 与 PyTorch 支持 — Fcking_Chuck · 2026-10-14
- HDD 慢到拖垮服务器,NVMe 溢价却高达 670 倍 — haydendevs · 2026-10-14
- 实测三款本地 LLM 应用的网络行为:对话不外传,但应用会联网 — TheOyinbooke · 2026-10-14
- 实拍 Google Ironwood TPU 机架亮相 Google Cloud 活动 — firstadopter · 2026-10-14
- 三星展出 HBM5 实物与 Custom HBM 方案,xPU 捆绑设计亮相 — firstadopter · 2026-10-14
- AWS Lambda 推出 Web Functions:单环境支持 128 并发请求的 HTTP 处理器 — tlakomy · 2026-10-14