统一视觉+决策+去审查,27B 本地 Agent 模型开源,16GB 显存可跑
ButtercupLyn100 · reddit · 2026-11-16
Reddit 用户发布开源合并模型 Qwen3.8-27B-Perplexing-Pegasus-Heretic(Apache-2.0),目标是把本地 Agent 栈原本需要同时驻留的三类模型(视觉解析、结构化决策、去审查)压进一个 27B 检查点,降低消费级显卡的显存与延迟压力。
主要特性:
- 基于 Qwen3.8-27B,支持多模态视觉 + Chat + Thinking(<think>)+ 工具调用
- 集成 Perplexity pplx-decider 类型化决策读出头(decision/ 头与 lmhead 并存)
- Heretic ARA 去审查:8 项拒绝探针全部为 0,同时与基座 Pegasus 模型保持 30/30 决策一致
- 保留全部 15 个 MTP 张量,blk.64 在 IQ/3-bit 量化下以 Q80 保留
- 16GB 显存可跑 IQ3XXS/Q3KM + mmproj,24GB 显存跑 Q4KM
提供四套权重:GGUF + mmproj(llama.cpp/LM Studio)、AutoRound INT4(vLLM,支持 Intel Arc Pro B70 与 NVIDIA CUDA)、NVFP4 + FP8(Blackwell sm100/sm120,支持 MTP)、BF16 基座,均在 Hugging Face webbrain-one 账号下。
「编程与Agent」频道最新
- rauchg 开源 xeet:纯 Rust 无浏览器渲染 X 帖子,1 毫秒出 PNG — evilrabbit_ · 2026-11-16
- 程序员成了创业公司「负资产」?一人创业只剩写码可外包 — yangyi · 2026-11-16
- json-render for Swift 发布:生成式 UI 原生登陆 iOS/macOS — amos_gyamfi · 2026-11-16
- Sentry CEO 半小时弃坑:折腾租户 SQLite 后回归 Postgres — zeeg · 2026-11-16
- 斯坦福 CS329Z 首届超百人选课,官网公开完整教学大纲 — FinanceYF5 · 2026-11-16
- SWE-bench 联合作者设计 CS329Z 作业二:教学生做 Agent 评测 — FinanceYF5 · 2026-11-16