曝 Thinking Machines 新模型 Inkling-2-Mini,附完整 vLLM 部署命令
TheZachMueller · x · 2026-11-22
一条值得注意的「 sighting 」:帖主直接贴出了用 vLLM 启动 thinkingmachines/Inkling-2-Mini 的完整命令,暗示 Thinking Machines(Mira Murati 公司)已发布/上传该模型权重。
命令中的可复用配置细节:
- 262144 上下文长度(--max-model-len 262144)、gpu-memory-utilization 0.9
- 专用的 --reasoning-parser inkling 与 --tool-call-parser inkling,配合 --enable-auto-tool-choice
- 投机解码配置:method 为 dspark,numspeculativetokens 7,draftsamplemethod probabilistic
对想第一时间本地跑这个新模型的人来说是一份现成的部署参考。
「Infra」频道最新
- OpenRouter 一个月内曝两起泄露:MiniMax 请求的 prompt 疑被读取 — const_reborn · 2026-11-22
- Anthropic 810 亿美元 IPO 次日 AI 抛售,纳指回吐 2026 全年涨幅 — Incognito2834 · 2026-11-22
- 变压器短缺成AI扩产瓶颈,马斯克押注固态DC变换器 — MikePFrank · 2026-11-22
- Intel D270 早期跑分出炉:单卡 160GB 显存,功耗比 RTX Pro 6000 低 42% — HankYeomans · 2026-11-22
- 他用 3 万美元太阳能离网跑本地 AI,月产 10 亿 sovereign tokens — natesiggard · 2026-11-22
- RTX 3090 Windows 解锁 FP16/BF16:Z-Image 出图提速 34% — notaneimu · 2026-11-22