RTX 3060 全本地语音助手复刻 GPT Live 官方演示,6 分钟跑完全程
liampetti · reddit · 2026-09-11
开发者用 12GB 显存的全本地语音助手 Fulloch,对照 OpenAI GPT Live「Improved Intelligence」演示里的同一对话任务(判断航线可行性同时追问目的地美食)进行实测。
配置(全部跑在 RTX 3060 上)
- 语音识别:Qwen3 1.7B ASR
- LLM:Qwen3.5-9B UD-Q4KXL GGUF,12K 上下文
- 语音:Pocket TTS
结果:全程约 6 分半完成(9B 模型思考环节做了加速处理);未能找到合适航线,但美食和餐厅推荐质量不错。作者对 Qwen3.5 9B 在小体量下完成此类任务的表现印象深刻。源码与 Docker 镜像开源于 GitHub(liampetti/fulloch),博客附实测视频与报告。
「模型」频道最新
- GPT-6.1 Terra 控制真机器人胜过 Opus 5.5,较三月前提升 3.7 倍 — ycombinator · 2026-10-28
- Kimi 发布 K3.1 Pro:3T 级开源权重模型,100 万上下文幻觉降 65% — NVIDIAAI · 2026-10-28
- OpenSIR 自博弈框架:LLM 无需训练数据自学数学推理 — PMinervini · 2026-10-28
- Claude Opus 5.5 从二进制重建 SQLite 等程序,ProgramBench 得分 18.5% — winer666 · 2026-10-28
- Codex 后台任务一夜烧光 500 美元周额度外加 75000 credits — sethlazar · 2026-10-28
- 用 $TAO 两分钟上手开源模型:Bittensor 侧链 SN53 实测体验 — markjeffrey · 2026-10-28