Aithy本地智能体运行时发布:4B小模型也能驱动复杂Agent
dosco · x · 2026-08-03
开发者分享了本地优先的 AI 智能体运行时项目 Aithy,并惊讶于通义千问(Qwen)的 4B 模型已经能够成功驱动其 RLM 智能体,印证了端侧模型能力正在快速商品化。
Aithy 核心特性:
- 本地优先与隐私:支持在本地运行 llama.cpp 管理的模型进行对话、嵌入和重排,任务繁重时可切换至更强的托管模型。
- 持久化记忆与会话:提供可搜索的记忆库和任务片段,避免将所有历史记录塞入上下文窗口。
- 安全沙盒:智能体命令需通过沙盒和权限网关,宿主文件仅能通过显式挂载或附件访问。
- 局域网网格(Home Mesh):允许局域网内受信任的 Aithy 实例互相借用算力或验证过的推理服务。
- 知识库管理:将精选概念存储在 SQLite 中,智能体可以提出修改建议供用户审批,确保知识来源可信且可追溯。
「编程与Agent」频道最新
- Grok Build 更新:扩展 Bash 权限与 Auto 模式 — elonmusk · 2026-08-03
- 开源项目 OpenClaw-Termux:在 Android 上运行 AI 网关,一键部署 — tom_doerr · 2026-08-03
- 别给 Agent 乱加工具:用 Bitter Lesson 指导智能体设计 — willccbb · 2026-08-03
- AI编程体验比肩编译器革命:开发者将不再看源码 — jamesdouma · 2026-08-03
- 图存文本省 Token:开发者用 PNG 压缩 Fable 5 上下文成本 — rohanpaul_ai · 2026-08-03
- 让 Agent 在 VPS 上自主折腾几小时配置环境 — djcows · 2026-08-03