OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍
JeremyCMorgan · x · 2026-10-23
L-Forster 开源了 OpenJet——一个面向本地模型的离线编码 agent 引擎。据其报告，在单张 RTX 3090 上以 Qwen3.8 27B 运行代码任务可达 140 tokens/s，对比 llama.cpp 的 73 tokens/s 提升约 1.9 倍，适用于 24GB 以上 RTX 30/40/50 系显卡。
要点：
- 一条命令即可自动配置 GPU 所能运行的最佳模型
- 引擎代码与 benchmark 全部公开，AGPL-3.0 许可
- 项目已有 102 stars，作者征集社区复现结果
「编程与Agent」频道最新
- Scenario 开源 Blender AI 插件：一个面板聚合 500 模型，还内置 MCP server — NERDDISCO · 2026-10-23
- Coinbase 推出 Agents 页面：让 ChatGPT、Claude 直连账户交易股票加密货币 — MurrLincoln · 2026-10-23
- Claude Code 全端推送重要安全更新，用户晒紧急升级提示 — umeshonai · 2026-10-23
- 视频导出从 2.6 小时缩到 20 分钟:让 Claude 重构服务器而非修补 — byhewar · 2026-10-23
- 用 Claude Agent 订机票：三条我永远不会手动查的省钱规则 — Efistoffeles · 2026-10-23
- 用 Hermes 搭建全自动 SEO 智能体：三个 skill 覆盖关键词到建站 — EXM7777 · 2026-10-23