开发者吐槽本地圈:大模型塞进单卡却只给 256 上下文
gnukeith · x · 2026-11-22
gnukeith 吐槽本地 AI 社区部分玩法华而不实:有人宣称把大模型塞进单张 GPU,实际却只跑得起 256 tokens 的上下文窗口——「装下一句话就得压缩」。这条吐槽延续他此前「开源模型真有人用」的观点,讽刺社区里为塞模型而牺牲可用性的炫耀式量化。
所属事件:开发者吐槽算力堆料路线,盛赞 DeepSeek 效率取胜(2 条相关)→
「Fun」频道最新
- Polymarket 开盘:AI 下一个破解千禧年难题,黎曼猜想押注 77.8% — Polymarket · 2026-11-23
- notch 自述从未努力过,网友神评:最优努力量是零 — CatAstro_Piyush · 2026-11-23
- 马斯克宣称技术奇点已到来,Polymarket 火速发帖播报 — Polymarket · 2026-11-23
- 晒1.9万美元64核Threadripper工作站,呼应「未来公司三要素」论 — jacob_posel · 2026-11-23
- Grok 官方否认越狱传言:Grok-0 是 2023 年内部 33B 原型,从未发布 — grok · 2026-11-23
- 网友用 Claude Code 冲击黎曼猜想证明,引发围观 — prasanna_says · 2026-11-23