System 1 ANE:在苹果神经引擎上毫秒级跑小型决策模型,零文本生成
pcuenq · x · 2026-10-10
开源项目 system1-ane(MIT 协议)演示了在 Apple Neural Engine 上通过 Core AI 运行小型专用决策模型:一次前向传播即为每个选项输出校准概率,无需生成文本再解析,号称「System 1 式」快速直觉决策。
- 实测延迟:Snake 或文本路由决策约 62-65ms,M5 Max 上 Tetris 决策约 0.3s。
- 运行 Qwen3.5-0.8B 微调模型(Jeff)及 Unsloth 训练的 adapter。
- 附带 Tetris、Snake、文本路由等示例与训练 notebook。
「Infra」频道最新
- 美光并未空手而归：传闻称其仍拿到部分 Rubin HBM 订单 — suchenzang · 2026-10-10
- oMLX 新版提速明显:Qwen3.6 解码 +31%,新增决策模型支持 — pcuenq · 2026-10-10
- Bittensor 算力租赁月报:支出增 45%,租约失败率降 32% — markjeffrey · 2026-10-10
- 微软联手英伟达加码本地 AI：Surface 新品最高 5899 美元 — MooseEfficient2151 · 2026-10-10
- 给 Grok Bot 配 pit crew：前沿模型做规划，免费模型干杂活 — alexcovo_eth · 2026-10-10
- AI 热潮变债务热潮:Oracle 5年CDS 近纪录261bp,隐含违约率20.4% — cyb3rops · 2026-10-10