网友手写推理引擎翻车：GGUF 塞进 WebGL2 输出乱码连环感叹号
CodeMichaelD · reddit · 2026-10-23
开发者 CodeMichaelD 分享了自己"vibecoding"手写 LLM 推理引擎的惨痛经历：模型以 GGUF Q4 量化格式经 GLSL 跑在 HTML 内嵌的 WebGL2 计算缓冲区里，tokenizer/词表则成了无尽的调试地狱。从配图看，引擎已能跑通对话，但一旦被问"are you qwen"就输出中英混杂的乱码和满屏感叹号。作者的结论很直白：想本地跑模型，还是直接 clone llama.cpp 吧。
「编程与Agent」频道最新
- DAB 基准入选 EMNLP Oral，最强模型 pass@1 仅 38% — adityagp · 2026-10-24
- 27B 开源模型靠进化界面击败 GPT-5.5,成本仅其 1.5% — alex_verem · 2026-10-23
- 用 Claude Skill 一句话生成可拆解的 3D AI 服务器交互图 — Promptmethus · 2026-10-23
- Mac 应用 poem 把 Codex 会话变成聊天界面，iPhone 上也能审批任务 — patrickreza · 2026-10-23
- 让 AI 扮演真实顾客来测试你的应用会是什么样 — randal_olson · 2026-10-23
- 牛津论文:借鉴 TCP/IP 治理经验规范 MCP/A2A 安全 — sethlazar · 2026-10-23