Cloudflare候诊室

今天，我们很高兴宣布Cloudflare候诊室！它将首先通过名为Project Fair Shot的新计划向客户提供选择，该计划旨在解决对COVID-19疫苗的大量需求导致约会注册网站出现故障的问题。我们的业务和企业计划的一般可用性将在不久的将来增加。

我们大多数人都熟悉候诊室的概念，而很少有人为融入一间候机室而感到兴奋。通常，我们的第一次体验是在医生办公室–是的，您有个约会，但有时医生迟到了（或其中一位患者）。假设医生一次只能看一个人，那么候诊室就是这样，它使病人排队。

尽管服务器可以处理比医生更多的并发请求，但它们也可能不堪重负。如果在COVID之前的世界中，如果您曾经尝试购买流行音乐会或活动的门票，则可能是在网上遇到了候诊室。它限制了入站到应用程序的请求，并将这些请求放入虚拟队列。一旦减少了应用程序中的用户数量，就会在应用程序可以处理的定义阈值之内让新用户进入。这样可以保护支持应用程序的原始服务器不会被过多的请求淹没，同时还可以从用户角度确保公平性-系统过载时尝试访问资源的用户不会受到不公平的丢弃并被迫重新连接，希望加入他们的系统。排队的机会。

鉴于我们当中没有多少人会很快举行演唱会，为什么Cloudflare现在要这样做？

好吧，也许我们不打算去听音乐会，但是COVID-19的二阶效果造成了对等候室的巨大需求。首先，由于社会疏远以及许多营业场所和政府的关闭，客户和市民已经转向在线渠道，这给企业和政府基础设施带来了更大的压力。

其次，大流行及其带来的持续后果意味着世界各地的许多人开始依赖十二个月前不需要的资源。具体来说，这些资源通常是与卫生或政府相关的资源，例如失业保险网站。设置了在线基础架构来处理无法预见COVID-19的峰值负载。我们发现与疫苗相关的网站也出现了类似的模式。

从历史上看，需要等候室的组织数量很少。大多数在线业务的性质通常涉及到更一致的用户负载，而不是一次全部吸引大量用户。这些组织能够建立自定义的候诊室，并将其深度集成到他们的应用程序中（例如，购买机票）。使用Cloudflare的候机室，无需更改应用程序的任何代码，并且无需编写任何代码即可在几分钟内为任何网站设置候机室。

无论您是工程架构师还是业务运营分析师，设置等候室都很简单。我们可以快速简便地确保您的应用程序可靠并受到保护，免受流量意外高峰的影响。我们认为重要的其他功能是自动启用和动态流出。换句话说，当超过阈值时，候机室应自动打开，并且当用户完成应用程序中的任务时，请分配不同大小的用户桶，并在队列中引入新的桶。它应该工作。最后，我们看到了COVID-19对用户和企业（尤其是但不限于医疗卫生和政府部门）产生的重大影响。我们希望提供另一种方式来确保这些应用程序保持可用和正常运行，以便所有用户都能获得所需的照顾，而不会在浏览器中出错。

我们在边缘网络和Workers产品之上构建了Waiting Room。通过利用Workers和我们的新的Durable Objects产品，我们可以消除对任何客户编码的需求，并提供无缝的，即用的，开箱即用的产品。最重要的是，我们获得了Workers产品的规模和性能优势，可确保我们维持极低的延迟开销，使呈现给最终用户的估计时间尽可能准确，并且不会让任何用户排队的时间超过所需时间。但是在分散网络中建立集中式系统并非易事。当来自世界各地的应用程序提出请求时，我们需要能够获得对于给定应用程序的入站和出站负载看起来像什么的广泛，准确的视图。

这些请求尽管速度很快，但仍需要花费时间才能穿越地球。因此，提出了一个独特的边缘案例。如果网站从北美和欧洲获得了合理的访问量，但是却从南美洲突然出现了巨大的访问量，我们该如何知道何时让用户进入应用程序以及何时进入候机室进行保护呢？源服务器是否过载？

多亏了一些聪明的工程技术和我们的Workers产品，我们才能够创建一个几乎可以立即使其与全球需求保持同步的系统，从而使我们能够了解何时应该和不应该将用户排队到候诊室。通过利用我们的全球Anycast网络和200多个数据中心，我们消除了任何单点故障，以保护我们的客户。基础架构还为必须等待少量时间才能在高负载下进入应用程序的最终用户提供了很好的体验。

设置等候室非常简单而且非常快捷！在规模的最简单方面，用户只需要填写五个字段：1）等候室的名称，2）主机名（已经在其配置的区域中预先填充了主机名），3）在任何给定时间可以处于应用程序中的总活动用户数； 4）允许进入应用程序的每分钟新用户数； 5）任何给定用户的会话持续时间。无需编码或任何应用程序更改。

对于不想添加其他品牌的客户，我们提供使用默认等候室模板的选项。这简化了启动和运行等候室的过程。

对于具有更多时间和技术能力的客户，将遵循相同的过程，只是我们为用户提供了完全的自定义功能，以便他们可以为候诊室打上烙印，以确保其与整体产品的外观和风格相匹配。

最后，管理不同的候车室非常简单。 使用我们的“管理等候室”表，您可以一目了然地获得哪些房间正在排队，未排队和/或已禁用的完整快照。 我们非常高兴能将候车室的功能交到客户手中，以确保他们继续专注于业务和客户。 请留意即将发布的另一篇博客文章，其中将对我们的企业等候室产品进行重大更新！ Project Fair Shot负载平衡产品新闻更好的互联网COVID-19