Ollama 联合创始人:小模型已能胜任大多数对话与推理场景
ollama · x · 2026-09-14
Ollama 联合创始人 jmorgan 转发并肯定斯坦福 Hazy Research 团队(Avanika Narayan、Jon Saad-Falcon 等,含 John Hennessy 参与)的工作,称"小模型已能胜任绝大多数对话场景,甚至多数困难推理场景"。该团队的研究被英国《金融时报》(FT)大篇幅报道,核心观点是世界正越来越不依赖中心化云端 AI。这条动向呼应了本地化、端侧小模型替代云端的趋势。
「Infra」频道最新
- Q2 全球前十大晶圆厂营收 535 亿美元,台积电独占 72.5% 份额 — Beth_Kindig · 2026-09-14
- RTX 3090 24G 单卡跑 Qwen3.8 27B INT4，144K 上下文 71/75 评测 — Altruistic_Heat_9531 · 2026-09-14
- Nvidia 单季净利 597 亿美元,日均赚约 6.6 亿美元 — himanshustwts · 2026-09-14
- 极客用 Claude Code 造超小神经网络,M4 芯片跑出 1500 tok/s — GregoryDiamos · 2026-09-14
- 10 美元开发板跑 10 亿参数 LLM:纯 C、零依赖、256MB 内存离线推理 — tom_doerr · 2026-09-14
- AirLLM 逐层流式加载：4GB 显存跑 70B 模型，2.8T Kimi K3 不到 4GB — alex_verem · 2026-09-14