开发者吐槽本地AI部署:像早期Linux一样折腾

After-Cell · reddit · 2026-07-30

一位开发者分享使用本地AI的体验:用ClaudeCode作为框架,通过DeepSeek API调用DeepSeek-flash,但尝试在Macbook Air M4(24GB)上本地运行Qwen3 9B 4bit MLX模型时遇到OOM、上下文过大等问题。尝试用DeepSeek调试配置失败,自己动手也未能解决。感叹本地AI部署像早期Linux一样需要大量折腾,询问是否值得继续投入。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →