Inkling-2-Mini 本地跑出 170 tok/s:2x3090 实测惊艳博主
LiTianleli · x · 2026-11-21
博主 loktar00 分享 Inkling-2-Mini 的本地演示,称这是一个出色的本地模型,并在 2 张 3090 上跑出 170 tok/s 的速度,正扩展到 4x3090 配置,后续还将发布更多结果与统计数据。结合另一条转发,该模型被认为优于 Qwen3 同级模型,是近期受关注的本地小模型。
所属事件:Inkling 2 Mini 实测:单卡 4090 冲上 200 tok/s(5 条相关)→
「Infra」频道最新
- RTX Spark 旧金山首发会排队试玩,本地模型成主角 — JFPuget · 2026-11-21
- Cloudflare 上架多模态模型 clairic-flash,登 Hugging Face 热榜 — Cloudflare · 2026-11-21
- Inkling-2-Mini 本地部署门槛低至 9GB 内存,各级量化需求一览 — NielsRogge · 2026-11-21
- 观点:只有基建硬资源卷到死透,应用层的春天才会到来 — yangyi · 2026-11-21
- 26 个 LLM 路由器暗藏恶意工具调用,一客户端被卷走 50 万美元 — 0xkarasy · 2026-11-21
- OpenRouter 被曝把用户 BYOK 私钥发送到中国,此前曾否认 — 0xkarasy · 2026-11-21