Strata 采样参数冷知识:run 配置里可加 sampling 块设默认值
KissMyShinyArse · reddit · 2026-10-01
一个关于 Strata 推理引擎的非显然用法：顶层 README 没提，但可以在 strata-iq3s. 的 run 配置里加一个 "sampling" 键来设置默认采样参数，例如 {"temperature": 1.0, "topp": 0.95, "topk": 20}。根据 docs/DETAILS.md：该块为未带采样字段的请求提供默认值，请求自身字段优先级更高；若完全不配置该块，不带采样参数的请求将以贪心解码运行。对本地跑 Strata 的用户是实用的配置技巧。
「Infra」频道最新
- Arduino 称每节点远低于 Mac mini,嵌入式板卡改写 AI Agent 部署经济账 — CatAstro_Piyush · 2026-10-01
- SemiAnalysis 注入故障实测:GPU 集群租赁商可靠性差距悬殊 — AccBalanced · 2026-10-01
- Reddit网友跑DeepSeek无人值守循环:2.37亿token仅花3.48美元 — dogfoodarchitect · 2026-10-01
- 基于 Cornell 教程为团队自制 GPU 架构入门课程 — idanbeck · 2026-10-01
- Qwen Flash Next MTP 工作重启,官方 GGUF 量化与 llama.cpp PR 上线 — jacek2023 · 2026-10-01
- Meta 首个 Loop MoE Scaling Law：稀疏省 3 倍、循环省 2 倍算力 — facebook · 2026-10-01