Cloudflare 工程师:如何构建 LLM 时代可扩展软件
新智元 · wechat · 2026-08-28
Cloudflare 首席工程师 Jeremy Morrell 探讨了在 LLM 时代构建可扩展软件(Extensible Software)的必要性与挑战。随着 AI 降低了写代码门槛,用户期望能通过简单描述修改 App 逻辑。文章分析了实现用户代码安全运行的五道关卡(成本、冷启动、限额、隔离、能力授权),并对比了嵌入式解释器、V8 Isolates、MicroVM 和 WASM 四条技术路径。Morrell 提出采用“能力”(Capability)而非 API 密钥的安全模型,并介绍了 CloudflareOS 项目。
「Infra」频道最新
- 无服务器 V8 隔离环境被视为 Agent 运行未来 — tobowers · 2026-08-28
- 论文分析 MoE 训练中光互连的热调谐开销 — jwt0625 · 2026-08-28
- 逆向 NPU 引擎格式,让 GGUF 跑速提升 1.5 倍 — woolcoxm · 2026-08-28
- 设计可靠 LLM 网关:构建后端统一可信入口 — Mahmoud_Zalt · 2026-08-28
- LightGlue 推 ONNX 版:支持 TensorRT 与跨平台部署 — rsasaki0109 · 2026-08-28
- LLM 三次逃逸 VM,研究者重申沙箱需攻击面减缩 — dyn___ · 2026-08-28