面向 llama.cpp 的 .NET 10 开源客户端 CrideLLMApi:不隐藏协议细节
cride20 · reddit · 2026-09-09
开发者开源了 CrideLLMApi,一个主要面向 llama.cpp 的 .NET 10 OpenAI 兼容客户端,设计理念是「不把协议藏起来」:
- 暴露原始流式分块、推理增量(reasoning deltas)、工具调用片段、finish reasons、取消、强类型请求对象与上下文管理
- 支持强类型工具定义与并发工具执行
- 也保留一条简单的高层路径
作者构建它主要是为底层实验性异步工具调用框架打基础——生成与工具并行执行、互不阻塞;该框架会与 API 库分离。目前仅实现 /v1/chat/completions,仍在积极开发中,API 可能变动,后续计划发布 NuGet 包。欢迎 .NET + llama.cpp 用户反馈。
「编程与Agent」频道最新
- ComfyMax v0.2发布：为本地ComfyUI+MiniMax H3工作流打造简化前端 — DanielVeres · 2026-09-09
- connectors 与浏览器操作让完美主义者「形式上委派、实质亲历」 — tushaarmehtaa · 2026-09-09
- 黑客松获奖记忆系统重写为零依赖 MCP 服务器 Synapse — BoringCelebration405 · 2026-09-09
- 十年老开发者放话：用 UE 加 AI 工具半年内能独立做出 GTA 级游戏 — D3VAUX · 2026-09-09
- 「一个好模型胜过一千个子智能体」引发架构之争 — tekbog · 2026-09-09
- 用 Claude Code 接管 Telegram 摘要流,自动归档个人知识库 — sebpaquet · 2026-09-09