用户实测:Qwen3.6 35B 量化版是罕见好用的本地通用 Agent
Mrinohk · reddit · 2026-10-09
一位 Reddit 用户分享了用 Unsloth UDQ4KXL 量化版 Qwen 3.6 35B 做本地通用 AI 助手的体验。作者认为它写中小型项目代码不行、会幻觉、微调版过于偏码而丧失通用助手能力,但在"广泛的生活化 agentic 任务"上异常稳定:控制智能家居、发购物清单到手机、定时提醒、甚至通过 SSH 帮另一台机器装好 Minecraft 整合包,执行快、不跑偏。
硬件方面,作者用两张二手 Tesla P100 驱动,生成速度约 120-140 t/s,0 上下文时 prompt 处理约 1000 t/s,13k 上下文时约 700 t/s,达到"真正可对话"的流畅度。
不足:角色扮演/人设保持差(远不如 Gemma4),偶尔出常识错(说 P100 用 ROCm)。作者担心下一代 Qwen4 该级别模型会过度偏码、思考过重而变慢,并呼吁行业重视"普通人可用的通用 AI 助手"这一仍未被解决的场景。
「Fun」频道最新
- 工程师用千份 Theranos 庭审文件复刻翻伊丽莎白·霍尔姆斯的办公桌 — round · 2026-10-09
- 网友调侃 Claude 像欧盟:管得比谁都严,连骂 AI 都不行 — tetsuoai · 2026-10-09
- 上帝给人类自由意志和爱,人类用它来报穿搭清单 — signulll · 2026-10-09
- 经济学家半开玩笑请愿:禁止被 AI 淘汰的数学家来抢饭碗 — alejandroll10 · 2026-10-09
- 圈内热议:多家数据公司自称是隐秘的前沿后训练实验室 — VoidAsuka · 2026-10-09
- spawn 让旗下游戏直接嵌入 X 帖子内游玩 — majidmanzarpour · 2026-10-09