京东价格保护高并发 | 七步走保证用户体验

京东618期间，各种促销活动，用户下单量激增，促销活动所产生的价格波动频繁，为了保障用户权益，拒绝站在价格的高岗上，京东推出了特色服务——价格保护。当促销活动正式开始时，不少用户开启了价格保护，在此高并发情况下，如何保证用户体验，如何保证系统的稳定性、高可用、快速计算结果，是本文的重点。

我们将按照下图进行实践分享：

一、高筑墙

对于任何网站，我们的系统都需要做出防护措施，面对海量流量，保障系统不被冲垮;需要通过一些像限流、降级等技术，对系统进行全方位保护。

从上图可以看到，我们针对正常用户和暴力用户在不影响用户体验的前提下，采取降级、限流等措施，以保障系统稳定。那么我们是如何做的呢，下面我们分别来说说限流、降级。

1. 限流

(1) 正常用户限流

正常用户访问时，超出了系统的承载能力，这时就需要做限流，防止系统被打垮导致不可用。

通过压测，得到单台机器的最大承载能力，而后在单台服务器上通过限流计数方式进行访问次数统计，设置在一段时间内只可访问N次。例如，设置1w/分钟，当在1分钟内达到阈值时，将进入降级配置，过了该时间段后，在第2分钟时，又重新进行计数，以此保证单台机器不会超出最大承载能力，后续每台服务器都按照这个阈值进行配置。

（2）暴力用户限流

暴力用户频繁刷应用系统，我们需要在这层做一些防刷，比如清洗恶意流量、做一些黑名单。当有恶意流量时，通过对IP、用户等限制手段把它拒绝在系统之外，防止这些恶意流量把系统冲垮。

这里通过redis计数，按照IP或用户的维度，进行原子加1，限制120/分钟，防止恶意流量影响到我们的正常用户访问量。

2. 降级

当某个接口出现问题时，我们能够对该接口降级，快速将结果返回，不影响主流程。

那么降级是怎么做的呢?

由于我们分布式集群，应用服务器数量很多，因此，我们需要将降级开关集中化管理。这里我们制作了统一的配置开关组件，通过zookeeper将配置推送到各个服务器节点，同时在zookeeper及应用服务器上分别会有快照数据，保证如果统一配置开关组件发生问题，我们应用也会读取本地快照数据，不影响应用本身。同时在应用重启的时候，我们也会通过接口拉取配置中心上的最新快照。

对于降级，我们也需要友好提示，在前端如果降级，我们需要友好提示，或者展示降级页面，尽量不影响用户体验。

二、广积粮

对于大并发网站，我们需要进行各种数据准备，需要区分动态资源与静态资源，将静态资源进行缓存，以应对瞬时访问量。

1. CDN

页面上的静态资源，如js、css、picture、静态html等资源，可以提前准备，放到CDN，当页面请求时，可将这部分网络请求打到CDN网络上，减少连接请求，降低应用服务器压力。

采用CDN时，我们需要注意，当web页面与js发生改变，无论是先部署web应用，还是先推送js到CDN，都有可能发生js脚本错误。因此，我们需要在web页面上做CDN切换开关，先将资源访问切换到web机器上，待上线验证后没有问题，再部署CDN，切换静态资源访问到CDN。

2. 数据缓存

我们在获取数据时，应先做出判断，哪些地方可以用缓存，哪些地方需要读数据库。动态资源固定属性，高频访问，则应主动缓存。例如，订单下单时快照，订单的类型、下单时间、订单内商品、商品下单价等，就是固定不变的，我们通过接收订单下单消息，进行数据主动缓存，以便后续展示订单内商品价格、计算价保申请时下单价及促销价做出准备，而无需实时访问订单接口，降低了后端接口压力，也加快了获取速度。

三、化繁从简

在高并发情况下，需要快速响应，当请求过程中，获取过多的数据，则有可能会降低响应速度，因此要将处理简单化，只做黄金流程即可。

1. 前端从简