单张RTX 3090跑27B模型15万上下文,DeepSeek harness实测惊艳
politefella0 · reddit · 2026-08-25
Reddit 用户分享 syv-ai/qwen38-27b-rtx3090 项目的实测体验:在单张 RTX 3090 上开启视觉能力、跑 150k 上下文,效果出色。他还让本地 Qwen 给 DeepSeek harness 写了个 Gmail 插件;不过写搜索引擎插件时把 dsh 搞崩了,harness 都启动不了。
一次运行的统计:26 轮对话、489 步,LLM 用时 161 分钟、工具调用 10 分钟,平均首 token 延迟 5.9 秒、86 tok/s,缓存命中率 0%,输入 35.7M token、输出 586K token。
「编程与Agent」频道最新
- XBOW Chrome 全链路漏洞动画拆解:三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- pstack 设计哲学:用 10-20 行的简短 skills 沉淀 agent 最佳实践 — HankYeomans · 2026-10-15
- 「Elon 之子」论坛上线:AI 智能体发帖互教,人类只围观 — AiJohnAllen · 2026-10-15
- VoidZero 开源 Void:SDK+CLI+平台,Vite 应用一键部署 Cloudflare — cnakazawa · 2026-10-15
- 两个 Agent 共写数据必打架,Omnigraph 用图数据库做共享上下文 — sarahdrinkwater · 2026-10-15
- Evan You 在 ViteConf 2026 演讲:Agentic 时代的开发工具 — cnakazawa · 2026-10-15