Synap 登顶 LongMemEval:95.6% 答案准确率背后的优化思路
arpit_bhayani · x · 2026-10-29
初创项目 Synap 宣布在长记忆评测 LongMemEval 上以 95.6% 登顶。值得注意的是其优化指标并非 Recall@20 或 Recall@200 这类检索召回率,而是最终答案准确率:用 Flash 级模型(Gemini 3.8 Flash)生成答案,并以 gpt-4o 按 benchmark 官方 prompt 做裁判。 Arpit Bhayani 评论认为这个方向很有意思——同时关注准确率和达到该准确率所需检索的上下文量,是一个值得优化的非常规指标。
「编程与Agent」频道最新
- 开源 OpenLolo:用硬件盒子让 AI 通过 MCP 操控 iPhone 无需越狱 — Eonminion · 2026-10-29
- GitHub SMS 双重验证致用户永久锁号,官方明确拒绝恢复 — m_schuetz · 2026-10-29
- 花 5 美元做评测换模型,AI 账单砍掉 74% 且效果更好 — MicahBerkley · 2026-10-29
- Codex 直连远程 RunPod:一条 API Key 拉起 Ollama+Qwen3.8 异构模型集群 — huangyun_122 · 2026-10-29
- 两个 connector 把 Claude 变成广告公司:一个下午产出传统代理行 3-6 周的活 — PrajwalTomar_ · 2026-10-29
- 公司级 MCP 架构实践:连接一次、密钥不进 prompt、按项目控权 — Kluff_AI · 2026-10-29