用户实测:Qwen3.6 35B 量化版是罕见好用的本地通用 Agent

Mrinohk · reddit · 2026-10-09

一位 Reddit 用户分享了用 Unsloth UDQ4KXL 量化版 Qwen 3.6 35B 做本地通用 AI 助手的体验。作者认为它写中小型项目代码不行、会幻觉、微调版过于偏码而丧失通用助手能力,但在"广泛的生活化 agentic 任务"上异常稳定:控制智能家居、发购物清单到手机、定时提醒、甚至通过 SSH 帮另一台机器装好 Minecraft 整合包,执行快、不跑偏。

硬件方面,作者用两张二手 Tesla P100 驱动,生成速度约 120-140 t/s,0 上下文时 prompt 处理约 1000 t/s,13k 上下文时约 700 t/s,达到"真正可对话"的流畅度。

不足:角色扮演/人设保持差(远不如 Gemma4),偶尔出常识错(说 P100 用 ROCm)。作者担心下一代 Qwen4 该级别模型会过度偏码、思考过重而变慢,并呼吁行业重视"普通人可用的通用 AI 助手"这一仍未被解决的场景。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →