掌上 AI 主机 Tiiny 实测:gpt-oss-120b 跑 16 tok/s,编码测试唯一全过
IronDiligent6698 · reddit · 2026-11-05
- 硬件:Tiiny Pocket 约 5.6×3.1×0.9 英寸、300g,32GB SoC 内存 + 48GB NPU 专用内存(共 80GB,非统一内存), early backer 价约 $1K。
- 速度测试(4K 输入、关 prompt caching、5 次取中位数,Qwen3.5-9B-Turbo INT4):PP 1041 tok/s、TG 75 tok/s、TTFT 4.05s;Qwen3.6-35B-A3B-Turbo TG 约 64 tok/s;gpt-oss-120b(Mixed INT4/INT8,67.3GB)TG 仅约 16 tok/s,单次请求超 30 秒。
- 编码实测:同一 Python 库存/订单管理任务(4 文件、10 项自动测试)。9B 两次均无法评分;35B MoE 得 9/10(漏一个重试已售罄订单的边界用例);120B 唯一 10/10 全过,耗时约 229 秒,与 35B 的 235 秒几乎持平。
- 结论:小模型快但不可靠,120B 在端侧虽慢却是唯一能完成真实编码任务的模型。
「具身」频道最新
- Beff Jezos 现场实拍 Tesla Cybertruck 白色原型车 — beffjezos · 2026-11-05
- Aina 智能戒指想当 AI Agent 的遥控器,一键操控自主助手 — Wired AI · 2026-11-05
- Waymo 宣布 2028 年 1 月起终结与 Uber 独家合作,自营 App 接客 — emmanuelvivier · 2026-11-05
- 受够了屏幕和笨重头显,极客自制「电脑帽子」 — aaraalto · 2026-11-05
- Jetson AGX Thor 上的本地 AI 原型 Evopien:对话、视觉监控与语音打断演示 — SoftKill21 · 2026-11-05
- DJI 发布 Matrice 5T：1K 热成像+激光雷达，59 分钟续航 — davidpattersonx · 2026-11-05