求推荐弱机可跑的无审查本地模型,用于检索与批量下载
Emotional_Orange_279 · reddit · 2026-11-04
Reddit 用户发帖求助:有没有能在性能较弱的电脑上本地运行、且不做内容审查的 AI 模型,用来做资料检索和基础任务。他举例说,想让模型「检索某部作品的全部内容并把所有书下载到一个文件夹」,但 Codex 会拒绝这类请求。帖子本身是提问,未给出方案,核心诉求是本地部署 + 绕过模型拒答。
「Infra」频道最新
- Sipeed 新板喊板 DGX Spark:10cm 见方跑本地推理,还能充电宝供电 — vincent_koc · 2026-11-04
- vLLM 携手 Red Hat 与 NVIDIA,11 月 12 日马德里办开源推理之夜 — vllm_project · 2026-11-04
- vLLM v0.33.0 发布:927 次提交,GB300 解码延迟最高降 2 倍 — vllm_project · 2026-11-04
- Fireworks 发布 Ultra-fast 推理:1500 tok/s 与半价后台推理 — nicolechirps · 2026-11-04
- Fireworks 活动现场讲解 EXL3 滑动窗口位共享量化技巧 — sophiamyang · 2026-11-04
- ThunderAgent 并入 LLM-D,Agent 推理吞吐翻倍、首 token 延迟从 50 秒降到秒级 — simran_s_arora · 2026-11-04