26.4B 无审查模型 Inkling 2 Mini 可在 12GB 笔记本本地跑
udmrzn · x · 2026-11-22
AtomicChat 发布 Inkling 2 Mini(26.4B)的无审查 GGUF 量化版本,共 3 个规格(8.67-16.53GB),可在 12GB 显存笔记本上本地运行。
据其测试,去审查后拒绝率从 100% 降到 0%,同时在 MMLU 上保留约 98% 的原始准确率。模型已上架 Hugging Face。
所属事件:无审查模型 Inkling 2 Mini 发布:12GB 笔记本可本地运行(2 条相关)→
「Infra」频道最新
- M3 Max 本地跑 Inkling 2 Mini 内存从 46.2GB 降到 9.9GB,速度约 29.6 token/s — GabGarrett · 2026-11-22
- 预测:单个任务的训练算力成本可能只有几美分甚至更低 — 1a3orn · 2026-11-22
- Bittensor 矿工「攻击」Chutes 一年,用数百万美元激励锤炼出端到端 TEE — const_reborn · 2026-11-22
- 开发者把 1.5B 模型微调成离线 Linux 命令助手,CPU 上 2 秒出答案 — Arch-r007 · 2026-11-22
- OpenRouter 一个月内曝两起泄露:MiniMax 请求的 prompt 疑被读取 — const_reborn · 2026-11-22
- capy-flash v0.16 用两张 16GB 50 系显卡跑通 Inkling 2 Mini,254k 上下文 — FeydRowan · 2026-11-22