开发者吐槽本地圈:大模型塞进单卡却只给 256 上下文

gnukeith · x · 2026-11-22

gnukeith 吐槽本地 AI 社区部分玩法华而不实:有人宣称把大模型塞进单张 GPU,实际却只跑得起 256 tokens 的上下文窗口——「装下一句话就得压缩」。这条吐槽延续他此前「开源模型真有人用」的观点,讽刺社区里为塞模型而牺牲可用性的炫耀式量化。

所属事件:开发者吐槽算力堆料路线,盛赞 DeepSeek 效率取胜(2 条相关)→

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →