开源 hearim：无需专用模型，把普通本地 LLM 变成 Jev 决策 API
ziozzang0 · reddit · 2026-09-21
开发者发布开源网关 hearim（헤아림），核心主张：获得 Jev 风格的决策接口不需要专用决策模型，普通本地或托管 LLM 就够了。
工作原理：
- 把决策转化为受约束的备选集合，直接读取预训练模型对每个选项的概率分布，而非让模型生成 JSON 再祈祷格式正确
- 通过 Jev 的 Choice、Score、Noul API 格式返回带概率的决策结果
- 兼容 llama.cpp、vLLM、SGLang、Ollama 或任意 OpenAI 兼容服务器
关键论点：预训练模型在 instruction tuning/RLHF 之前就已学到大量知识；如果只需在明确选项间做选择，这种能力可能早已存在于概率分布里——「模型可能早就知道，我们只是不该让它写一篇散文」。
作者声明：这套技术他自用超过一年（早于 Jev 公布），hearim 是围绕 Jev API 契约的独立重实现，不宣称复现 Jev 的架构、训练、校准、速度或性能。仓库附论文（paper.pdf）、支持后端、局限与 benchmark。他特别期待有人用更小的 base 模型（非指令微调）测试。
「编程与Agent」频道最新
- 开源 Portracker:自动扫描主机端口与服务,告别表格手工登记 — tom_doerr · 2026-09-21
- Termcp 把真实交互终端开放给 Agent,免去逐个开发 MCP — Psychological-Bid722 · 2026-09-21
- 「软件工程已死」?开发者列数据库、K8s、推理运维等一长串反例打脸 — ashishllm · 2026-09-21
- 把 Claude 当你的第一名员工：免重复交代业务的设置法 — evielync · 2026-09-21
- Jev 使用指南：专做判断不写字的「系统 1」模型怎么用 — xiaohu · 2026-09-21
- 观点：Agent 无法自动购买的产品就是去年时代的 SaaS — diegoposts · 2026-09-21