开发者吐槽算力堆料路线,盛赞 DeepSeek 效率取胜
开发者 gnukeith 连发两帖吐槽当前 AI 圈的「算力堆料」风气:大实验室遇问题就买 80 张 GPU、上下文不够就等 900 张 GPU 到货,这种做法缺乏必要约束,却对集中持有算力的机构有利。他同时批评本地 AI 社区华而不实的玩法——有人宣称把大模型塞进单张 GPU,实际只能跑 256 tokens 上下文,装下一句话就得压缩。相比之下,DeepSeek 用 1M 上下文不到 1GB 内存,以效率取胜。
2026-11-22 ~ 2026-11-22 · 2 条相关
- 开发者吐槽本地圈:大模型塞进单卡却只给 256 上下文 — gnukeith · 2026-11-22
- 开发者吐槽堆 GPU 路线:DeepSeek 用效率取胜,1M 上下文不到 1GB 内存 — gnukeith · 2026-11-22