dalao.ai

Cloudflare Workers AI

在 Cloudflare 全球网络上用无服务器 GPU 运行机器学习模型参考档案

关于 Cloudflare Workers AI

Workers AI 是 Cloudflare 的无服务器推理服务：不用自己租 GPU，在 Workers 代码里或通过 REST API 直接调用跑在 Cloudflare 网络上的开放权重模型，按用量计费。截至 2026-10-30，免费额度为每天 10,000 Neurons，超出部分每 1,000 Neurons 收费 $0.011。

编辑部更新于 阅读约 3 分钟

它解决什么问题

小团队想在产品里接入开放权重模型，自己部署要租 GPU、装推理框架、处理扩缩容，闲置时也在付钱。Workers AI 把这些交给 Cloudflare：在 Worker 里通过 AI 绑定调用，或者用 API Token 走 REST 接口，按实际用量计费，不为闲置算力付费。

它和 Cloudflare 的 Workers、AI Gateway、Vectorize 等产品属于同一个开发者平台。

Run machine learning models, powered by serverless GPUs, on Cloudflare's global network.

Workers AI 官方文档（英文原文）

核心能力

  • 模型目录：概览页写的是 50 多个开源模型，模型目录页在 2026-10-30 显示 73 个模型，覆盖文本生成、嵌入、图像、语音合成与识别、翻译等任务，包括 GLM-5.3、Kimi 和 DeepSeek V4 系列等较新的大模型。
  • OpenAI 兼容接口：提供 /v1/chat/completions 和 /v1/embeddings，把 OpenAI SDK 的 baseURL 换掉即可调用；/v1/responses 只支持 GPT-OSS 模型。
  • 周边功能：文档列有函数调用（Beta）、JSON 模式、LoRA 适配器（Beta）、提示缓存、异步批处理（Beta）和 Markdown 转换（Beta）等。
  • 数据承诺：数据使用说明写明，标准推理请求的输入和输出在处理完成后不保留，Cloudflare 也不用 Workers AI 处理的客户内容训练模型。

谁在用

Cloudflare 的文档和博客中未见 Workers AI 的用户数或客户名单。

公开的事故记录显示，第三方路由服务会把请求转到 Workers AI。这次数据暴露发生在 2026-08-27 至 09-09，Knostic 的研究者 09-07 定位到 Cloudflare，09-08 通过 HackerOne 向 Cloudflare 报告；按 Knostic 自己的说法，最初的异常是在经 OpenRouter 调用模型时出现的。

和同类比

和自建推理（如 SGLang、vLLM）相比：自建能完全控制版本、配置和隔离，但要自己运维 GPU；Workers AI 按量付费、免运维，代价是模型、限流和底层配置都由 Cloudflare 决定。Cloudflare 的 GLM-5.3 部署本身就跑在 SGLang 上。

各家托管推理服务的计价单位不同，难以直接比较价格。

适合与不适合

适合：

  • 已经在用 Cloudflare Workers 的开发者，想在边缘函数里直接加摘要、分类、嵌入、翻译等能力；
  • 用量不大、想先用免费额度做原型的个人和小团队。

不适合：

  • 需要自选模型版本、调整推理参数或部署自有模型的团队，私有模型要填表申请；
  • 需要高并发调用前沿大模型的场景：需付费的模型默认每个账号、每个模型每分钟 20 次请求。

上手路径

注册 Cloudflare 账号，在控制台的 Workers AI 页面选择 Use REST API，创建 Workers AI API Token 并记下 Account ID，就可以用 curl 调用模型。

要在自己的应用里用，可以按 Workers 绑定入门文档，用 Wrangler 建一个 Worker，在代码里通过 AI 绑定调用模型。

定价与许可证

闭源的托管服务。以下截至 2026-10-30：

  • Workers Free 和 Workers Paid 都含每天 10,000 Neurons 的免费额度，每天按 UTC 零点重置。
  • 超出免费额度只能在 Workers Paid 上按每 1,000 Neurons $0.011 计费；Workers Paid 每个账号每月最低 $5。
  • 定价页按模型列出折算价，例如 GLM-5.3 为每百万输入 token $1.40、每百万输出 token $4.40。
  • GLM-5.3、Kimi K2.6、DeepSeek V4 系列等 8 个模型必须绑定付费方式，或使用预付的 AI Gateway 额度。

风险与局限

租户隔离事故。Cloudflare 披露，2026-08-27 至 09-09 间，GLM-5.3 模型有 155 条响应含有其他客户请求的数据，均出现在超过 681,280 token 的长提示中；Cloudflare 于 09-08 收到报告，模型在 09-09 恢复服务，修复已合入上游 SGLang。原因之一是 Cloudflare 对外开放的上下文长度（1,048,576 token）超过了预填充端 KV 缓存池能装下的长度。

限流。文本生成默认每分钟 300 次请求；需付费的模型每分钟 20 次，使用预付 AI Gateway 额度时为 50 次。

计费单位不直观。Neurons 是 Cloudflare 自定义的计量单位，要按定价页换算成 token 成本。

我们的判断

对已经在 Cloudflare 上开发的人，Workers AI 是接入开放权重模型门槛最低的路径之一，免费额度足够做原型。但 GLM-5.3 事故说明，托管推理的隔离同样取决于底层开源引擎和运营方的配置；处理敏感数据的团队，应该把 Cloudflare 的事故报告和修复清单当作选型材料来读。

资料来源

官方

  1. Workers AI 文档概览developers.cloudflare.com · 访问于 2026 年 10 月 30 日
  2. Workers AI 定价developers.cloudflare.com · 访问于 2026 年 10 月 30 日
  3. Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLangblog.cloudflare.com · 访问于 2026 年 10 月 30 日
  4. Workers AI：Workers 绑定入门developers.cloudflare.com · 访问于 2026 年 10 月 30 日
  5. Workers AI 模型目录developers.cloudflare.com · 访问于 2026 年 10 月 30 日
  6. Workers AI：OpenAI 兼容接口developers.cloudflare.com · 访问于 2026 年 10 月 30 日
  7. Workers AI 数据使用说明developers.cloudflare.com · 访问于 2026 年 10 月 30 日
  8. Workers AI 限额developers.cloudflare.com · 访问于 2026 年 10 月 30 日

动态与深度阅读

长文编辑部

Cloudflare 跨客户泄露：开源推理引擎的隔离责任落在上下游之间

SGLang 仓库里一份写明根因和补丁的问题单，在 Cloudflare 收到泄露报告三天前被机器人以“无活动”关闭。Cloudflare 以为引擎会拒绝装不下的请求，引擎在 PD 分离部署下没有拒绝。自建推理或挑选推理服务商的小团队，面对的是同一条缝隙。

资讯Cloudflare

Cloudflare 披露 Workers AI 跨客户数据泄露事故，根因涉及 SGLang 缺陷

Cloudflare 称，8 月 27 日至 9 月 9 日间，Workers AI 上的 GLM-5.3 模型有 155 条回复混入了其他客户请求的数据，均出现在超过 681,280 token 的长提示中。原因是上下文窗口与 KV 缓存池容量不匹配，触发了开源推理引擎 SGLang 在预填充/解码分离模式下的缺陷。Cloudflare 表示未发现蓄意利用迹象。

2 个来源 · X 上 1 条讨论