苹果公布 AFM 上下文规格,fm serve 可起本机 Chat API 服务
rxwei · x · 2026-11-07
Apple Intelligence 团队在直播后发布了 Apple Foundation Models 的上下文长度文档:AFM Core Advanced 为 200 亿参数、8K 上下文(端侧);AFM Core 为 30 亿参数、4-8K 上下文(端侧);AFM Cloud 为 32K 上下文(Private Cloud Compute)。
另有实用细节:可用 fm 命令行工具在终端直接与端侧模型聊天,并用 fm serve 启动一个兼容 Chat Completions API 的本地服务器(支持 /v1/chat/completions、/health、/v1/models 端点,可选 TCP 或 Unix socket 模式),把苹果端侧模型接入标准 OpenAI 风格调用。
「Infra」频道最新
- 华为昇腾 960 路线图提前至多三个季度,960DT 2027 Q1 交付 — teortaxesTex · 2026-11-07
- CroissAttn 实现 Blackwell 上注意力 FP4 全程运算:Qwen3-8B 吞吐提升1.5倍 — TristanThrush · 2026-11-07
- SemiAnalysis 实测:SGLang 在 AMD Mi355 帧率碾压 B200/B300 — AnushElangovan · 2026-11-07
- 马斯克谈 Terafab:不是恐怖工厂,是太瓦级晶圆厂 — elonmusk · 2026-11-07
- AMD 推免费 AI 开发者计划:云额度、ROCm 认证与培训全包 — AnushElangovan · 2026-11-07
- 马斯克:数据中心不受欢迎只是暂时的,孟菲斯已因它繁荣 — inductionheads · 2026-11-07