苹果公布 AFM 上下文规格,fm serve 可起本机 Chat API 服务

rxwei · x · 2026-11-07

Apple Intelligence 团队在直播后发布了 Apple Foundation Models 的上下文长度文档:AFM Core Advanced 为 200 亿参数、8K 上下文(端侧);AFM Core 为 30 亿参数、4-8K 上下文(端侧);AFM Cloud 为 32K 上下文(Private Cloud Compute)。

另有实用细节:可用 fm 命令行工具在终端直接与端侧模型聊天,并用 fm serve 启动一个兼容 Chat Completions API 的本地服务器(支持 /v1/chat/completions、/health、/v1/models 端点,可选 TCP 或 Unix socket 模式),把苹果端侧模型接入标准 OpenAI 风格调用。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →