高并发的解决方案

    高并发的解决方案主要分为使用缓存和使用多资源两种类型。多资源主要指多缓存（包括多内存）、多CPU和多网络，对于多资源来说又可以分为单个资源处理一个完整的请求和多个资源合作处理一个请求两种类型，如多存储和多CPU的集群和分布式，多网络中的CDN和静态资源分离。

1 对静态资源图片的处理：

1.1 应用和静态资源分离

    刚开始的时候应用和静态资源是保存在一起的，当并发量达到一定程度的时候就需要将静态资源保存到专门的服务器中，静态资源主要包括图片、视频、js、css和一些资源文件等，这些文件因为没有状态所以分离比较简单，直接存放到响应的服务器就可以了。一般会使用专门的域名去访问，通过不同的域名可以让浏览器直接访问资源服务器而不需要再访问应用服务器了。

1.2 页面缓存

    页面缓存是将应用生成的页面缓存起来，这样就不需要每次都生成页面了，从而可以节省大量的CPU资源，如果将缓存的页面放到内存中速度就更快了。如果使用Nginx服务器就可以使用它自带的缓存功能，当然也可以使用专门的Squid 服务器。页面缓存的默认失效机制一班都是按缓存时间处理的，当然也可以在修改数据之后手动让相应的缓存失效。（适用于不经常变化的页面）

1.3 CDN

    CDN其实是一种特殊的集群页面缓存服务器，他和普通集群的多台页面缓存服务器相比，主要是它存放的位置和分配请求的方式有点特殊。CDN 服务器是分布在全国各地的，当接收到用户请求后会将请求分配到最合适的CDN服务器节点获取数据。比如联通的用户分配到联通的节点，上海的用户分配到上海的节点。CDN的每个节点其实就是一个页面缓存服务器，如果没有请求资源的缓存就会从主服务器获取，否则直接返回缓存的页面。CDN分配请求的方式是用专门的CDN域名解析服务器在解析域名的时候就分配好的。一般的做法是在ISP那里试用CNAME将域名解析到一个特定的域名，然后再将解析到的那个域名用专门的CDN服务器解析道相应的CDN节点。第二步访问CDN的DNS服务器是应为CNAME记录的目标域名使用NS记录指向了CDN的DNS服务器。CDN的每个节点可能也是集群了多台服务器。

2 集群与分布式

    集群是每台服务器都具有相同的功能，处理请求时调用那台服务器都可以，主要起分流作用。分布式是将不同的业务放到不同的服务器中，处理一个请求可能需要用到多台服务器，这样就可以提高一个请求的处理速度，而且集群和分布式也可以同时使用。
    集群有两个方式：一种是在静态资源集群。另一种是应用程序集群。静态资源集群比较简单。应用程序集群在处理过程中最核心的问题就是Session 同步问题。Session 同步有两种处理方式：一种是在Session 发生变化后自动同步到其他服务器，另一种就是用个程序统一管理Session。所有集群的服务器都使用同一个Session，Tomcat 默认使用就是第一种方式，通过简单的配置就可以实现，第二种方式可以使用专门的服务器安装redis等高效的缓存程序统一来管理session，然后再应用程序中通过重写Request并覆盖getSession 方法来获取制定服务器中的Session。
    对于集群来说还有一个核心的问题就是负载均衡，也就是接收到一个请求后具体分配到那个服务器去处理的问题，这个问题可以通过软件处理也可以使用专门的硬件（如：F5）解决。

3 反向代理

    反向代理指的是客户端直接访问的服务器并不真正提供服务，它从别动服务器获取资源然后将结果返回给用户。

    反向代理服务器主要有三个作用： 
1. 可以作为前端服务器跟实际处理请求的服务器集成； 
2. 可以做负载均衡 
3. 转发请求，比如说可以将不同类型的资源请求转发到不同的服务器去处理。

参见秒杀的设计原理：

https://www.jianshu.com/p/d789ea15d060

参见《看透Spring MVC源代码分析与实践》第一章1.5 高并发的解决方案