LMStudio 支持 llama.cpp 参数覆盖,yarn-attn-factor 1.2 或提升创意
Extraaltodeus · reddit · 2026-09-12
Reddit 用户发现 LMStudio 现在允许在加载模型时直接覆盖 llama.cpp 参数,无需重新保存 GGUF。作者尝试用 --yarn-attn-factor 1.2 调整注意力缩放因子,声称在涉及创意写作的任务上效果明显更好;而降到 0.8 会让模型变笨,1.2 已接近偏高水平,不同模型反应可能不同。帖子给出了可直接导入的 JSON 覆盖配置,LMStudio 支持从剪贴板导入。
「Infra」频道最新
- DeepInfra 推 DeepCluster 专属 B300 集群，低至 2.99 美元/GPU 时 — niloofar_mire · 2026-09-12
- OpenAI 揭秘存储平台 Habitat:Python 服务峰值每秒超 2000 万请求 — xeophon · 2026-09-12
- 腾讯开源 Agent 沙箱 CubeSandbox v0.7:冷启动 60ms,支持跨节点暂停恢复 — dr_cintas · 2026-09-12
- 32GB 显存跑 Qwen3.8 27B：动态配置让上下文从 17 万扩到 26 万 token — wadeAlexC · 2026-09-12
- DigitalOcean 推 M.A.R.S. 托管 Agent 运行时,首发接入 OpenAI Agents API — OpenAIDevs · 2026-09-12
- 分析师估算：Instinct 类应用每年或烧掉上亿美元 token 成本 — ivan_bezdomny · 2026-09-12