27B 1-bit 模型可跑手机
xenova · hn · 2026-07-15
Bonsai 27B 是一个 1-bit LLM,主打“首个能在手机上运行的 27B 级模型”。原帖链接到 PrismML 的新闻页,信息核心是它把原本通常只能在更大算力上跑的模型规模,压到了移动端可运行。
「模型」频道最新
- Aidan Gomez:模型推理痕迹说谎,CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- Nat Lambert 评 Cohere 开源模型:窄域 RL 训练依赖内部基础设施 — natolambert · 2026-10-27
- OpenAI DOTS 官方暗示「很快」登陆欧洲 — mark_k · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27
- ChatGPT 爬虫样例代码被实测:完全剔除所有 Schema 标记 — VeryWellVersed · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27