您的位置:首页 > 编程语言 > Java开发

【SpringBoot商城秒杀系统项目总结】 项目的亮点和难点及问题解决(源码地址)

2019-05-31 15:41 781 查看

【商城限时秒杀系统总结】

在高并发情况下的秒杀优化,我们知道当并发数达到一定量的时候,会对数据库服务器带来很大的压力,那么如何缓解这些压力以及提高并发的QPS就是整个项目的解决重点,也是我们优化系统的目标。

源码地址:https://github.com/pitt1997/miaosha_idea

项目的亮点:

1.使用分布式Seesion,可以实现让多台服务器同时可以响应。
2.使用redis做缓存提高访问速度和并发量,减少数据库压力,利用内存标记减少redis的访问。
3.使用页面静态化,加快用户访问速度,提高QPS,缓存页面至浏览器,前后端分离降低服务器压力。
4.使用消息队列完成异步下单,提升用户体验,削峰和降流。
5. 安全性优化:双重md5密码校验,秒杀接口地址的隐藏,接口限流防刷,数学公式验证码。

主要知识点:

  • 分布式Seesion
    我们的秒杀服务,实际的应用可能不止部署在一个服务器上,而是分布式的多台服务器,这时候假如用户登录是在第一个服务器,第一个请求到了第一台服务器,但是第二个请求到了第二个服务器,那么用户的session信息就丢失了。
    解决:session同步,无论访问那一台服务器,session都可以取得到,利用redis缓存的方法,另外使用一个redis服务器专门用于存放用户的session信息。这样就不会出现用户session丢失的情况。(每次需要session,从缓存中取即可)

  • redis缓解数据库压力
    本项目大量的利用了缓存技术,包括用户信息缓存(分布式session),商品信息的缓存,商品库存缓存,订单的缓存,页面缓存,对象缓存减少了对数据库服务器的访问。

  • 通用缓存key封装
    大量的缓存引用也出现了一个问题,如何识别不同模块中的缓存(key值重复,如何辨别是不同模块的key)
    解决:利用一个抽象类,定义BaseKey(前缀),在里面定义缓存key的前缀以及缓存的过期时间从而实现将缓存的key进行封装。让不同模块继承它,这样每次存入一个模块的缓存的时候,加上这个缓存特定的前缀,以及可以统一制定不同的过期时间。

  • 页面静态化(前后端分离)
    页面静态化的主要目的是为了加快页面的加载速度,将商品的详情和订单详情页面做成静态HTML(纯的HTML),数据的加载只需要通过ajax来请求服务器,并且做了静态化HTML页面可以缓存在客户端的浏览器。

  • 消息队列完成异步下单
    使用消息队列完成异步下单,提升用户体验,削峰和降流
    思路:
    1.系统初始化,把商品库存数量stock加载到Redis上面来。
    2.后端收到秒杀请求,Redis预减库存,如果库存已经到达临界值的时候,就不需要继续请求下去,直接返回失败,即后面的大量请求无需给系统带来压力。
    3.判断这个秒杀订单形成没有,判断是否已经秒杀到了,避免一个账户秒杀多个商品,判断是否重复秒杀。
    4.库存充足,且无重复秒杀,将秒杀请求封装后消息入队,同时给前端返回一个code (0),即代表返回排队中。(返回的并不是失败或者成功,此时还不能判断)
    5.前端接收到数据后,显示排队中,并根据商品id轮询请求服务器(考虑200ms轮询一次)。
    6.后端RabbitMQ监听秒杀MIAOSHA_QUEUE的这名字的通道,如果有消息过来,获取到传入的信息,执行真正的秒杀之前,要判断数据库的库存,判断是否重复秒杀,然后执行秒杀事务(秒杀事务是一个原子操作:库存减1,下订单,写入秒杀订单)。
    7.此时,前端根据商品id轮询请求接口MiaoshaResult,查看是否生成了商品订单,如果请求返回-1代表秒杀失败,返回0代表排队中,返回>0代表商品id说明秒杀成功。

  • 安全性优化
    双重md5密码校验,秒杀接口地址的隐藏,接口限流防刷,数学公式验证码。

  • 优雅的代码编写
    接口的输出结果做了一个Result封装
    对错误的代码做了一个CodeMsg的封装
    访问缓存做了一个key的封装

项目难点及问题解决:

1. 使用JMeter做压测的时候开启5000个线程,系统跑不起来,出现异常

原因:修改配置文件中redis的配置项poolMaxTotal 将其设置成1000。

#redis配置项
redis.poolMaxTotal=1000
redis.poolMaxldle=500
redis.poolMaxWait=500

2.使用了大量缓存,那么就存在缓存击穿和缓存雪崩以及缓存一致性等问题?

  • 缓存穿透指的是对某个一定不存在的数据进行请求,该请求将会穿透缓存到达数据库。
    解决方案:对这些不存在的数据缓存一个空数据,对这类请求进行过滤。

  • 缓存雪崩指的是由于数据没有被加载到缓存中,或者缓存数据在同一时间大面积失效(过期),又或者缓存服务器宕机,导致大量的请求都到达数据库。
    解决方案:
    为了防止缓存在同一时间大面积过期导致的缓存雪崩,可以通过观察用户行为,合理设置缓存过期时间来实现;
    为了防止缓存服务器宕机出现的缓存雪崩,可以使用分布式缓存,分布式缓存中每一个节点只缓存部分的数据,当某个节点宕机时可以保证其它节点的缓存仍然可用。
    也可以进行缓存预热,避免在系统刚启动不久由于还未将大量数据进行缓存而导致缓存雪崩。
    例如:首先针对不同的缓存设置不同的过期时间,比如session缓存,在userKey这个前缀中,设置是30分钟过期,并且每次用户响应的话更新缓存时间。这样每次取session,都会延长30分钟,相对来说,就减少了缓存过期的几率

  • 缓存一致性要求数据更新的同时缓存数据也能够实时更新。

    解决方案:
    在数据更新的同时立即去更新缓存,首先尝试从缓存读取,读到数据则直接返回;如果读不到,就读数据库,并将数据会写到缓存,并返回。
    在读缓存之前先判断缓存是否是最新的,如果不是最新的先进行更新,需要更新数据时,先更新数据库,然后把缓存里对应的数据失效掉(删掉)。

3.大量的使用缓存,对于缓存服务器,也有很大的压力,思考如何减少redis的访问?

在redis预减库存的时候,内存中维护一个isOvermap作为一个内存标记,当没有库存的时候,将其置为true。每次秒杀业务访问redis之前,查一下map标记,如果true说明没有库存,就直接返回失败,无需再去请求redis服务器。

4.在高并发请求的业务场景,大量请求来不及处理,甚至出现请求堆积时候?

消息队列,用来异步处理请求。每次请求过来,先不去处理请求,而是放入消息队列,然后在后台布置一个监听器,分别监听不同业务的消息队列,有消息来的时候,才进行秒杀业务逻辑。这样防止多个请求同时操作的时候,数据库连接过多的异常。

5.怎么保证一个用户不能重复下单?

解决:秒杀订单表中建立一个唯一索引(所引是用户Id与商品goodsId),使得第一个记录可以插入,第二个则出错,然后通过事务回滚,防止一个用户同时发出多个请求的处理,秒杀到多个商品。

唯一索引,即是唯一的意思,在数据库表结构中对字段添加唯一索引后进行数据库进行存储操作时数据库会判断库中是否已经存在此数据,不存在此数据时才能进行插入操作。

这虽然是个小技能,但实际上在业务开发中是个很实用的技能,比如在高并发业务中,数据库如何杜绝数据并发插入两条相同的订单号呢?添加一个唯一索引当然是最快捷的方法之一,当然是添加索引还是通过业务代码去解决因公司业务而定

6.怎么解决超卖现象?

超卖场景:不同用户在读请求的时候,发现商品库存足够,然后同时发起请求,进行秒杀操作,减库存,导致库存减为负数。

最简单的方法,更新数据库减库存的时候,进行库存限制条件,在reduceStock(GoodsVo goodsvo)这个方法里,sql要多加一个stock_count > 0 ,使用数据库特性来保证超卖的问题,只有stock_count还大于0的时候才去读stock_count然后减1操作

@Update("update miaosha_goods set stock_count=stock_count-1 where goods_id=#{goodsId} and stock_count>0")
public void reduceStock(MiaoshaGoods goods);

可以简单的解决超卖的情况,但是不能完全避免,是因为数据库底层的写操作和读操作可以同时进行,虽然写操作默认带有隐式锁(即对同一数据不能同时进行写操作)但是读操作默认是不带锁的,所以当用户1去修改库存的时候,用户2依然可以都到库存为1,所以出现了超卖现象。

可以对读操作加上显式锁(即在select …语句最后加上for update)这样一来用户1在进行读操作时用户2就需要排队等待了

但是问题来了,如果该商品很热门并发量很高那么效率就会大大的下降,怎么解决?

我们可以有选择的在读操作上加锁,比如可以对库存做一个判断,当库存小于一个量(临界值)时开始加锁,让购买者排队,这样一来就解决了超卖现象。

7.页面静态化的过程及什么是浏览器缓存?

将HTML静态页面缓存在客户端浏览器,只有数据通过ajax异步调用接口来获取,仅仅交互的是部分数据,减少了带宽,也加快用户访问的速度。

浏览器缓存就是把一个已经请求过的Web资源(如html页面,图片,js,数据等)拷贝一份副本储存在浏览器中。缓存会根据进来的请求保存输出内容的副本。当下一个请求来到的时候,如果是相同的URL,缓存会根据缓存机制决定是直接使用副本响应访问请求,还是向源服务器再次发送请求。比较常见的就是浏览器会缓存访问过网站的网页,当再次访问这个URL地址的时候,如果网页没有更新,就不会再次下载网页,而是直接使用本地缓存的网页。只有当网站明确标识资源已经更新,浏览器才会再次下载网页。

内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: