缓存的处理流程
前端发起请求,后端先从缓存中取数据,取到之后直接返回结果,取不到则从数据库中取,数据库中取到之后更新缓存并返回结果,数据库中取不到就返回空。
缓存穿透
缓存穿透是指缓存系统和数据库中都没有的数据,导致用户查询的时候在缓存中取不到,每次都要去数据库再查询一遍然后返回空,相当于进行了两次无用的查询,这种操作一般是攻击者,发一个id为“-1”的数据或id为特别大不存在的数据,造成缓存和数据库压力
-
解决方案:
接口层面用户鉴权,id<=0的过滤
缓存和数据库中都取不到的加判断,将key:value的值置为空
缓存有效时间缩短,如30秒,这样可以防止攻击用户反复用同一个id进行暴力攻击
缓存击穿
缓存击穿是指缓存过期了,这时并发用户同时去查同一条缓存,但是缓存中没读到数据,又同时去数据库取,造成数据库瞬间压力增大
-
解决方案:
关键数据设置永不过期
缓存和数据库加互斥逻辑
缓存雪崩
缓存雪崩是指同一时间缓存数据大面积失效,新缓存未到期,所有原本应该访问缓存的请求都去查数据库,对数据库CPU和内存造成巨大压力甚至宕机,从而形成一系列连锁反应,造成整个系统瘫痪
-
解决方案:
缓存数据过期时间设置为随机,防止同一时间大面积数据过期
采用分布式缓存数据库,将热点数据均匀分布在不同的缓存数据库中
设置热点数据永远不过期
缓存击穿和缓存雪崩的区别:
缓存击穿指并发查同一条数据,缓存雪崩是不同数据都过期了,很多数据都查不到从而去查数据库
缓存预热
- 缓存预热指系统上线后,提前将相关的缓存数据加载到缓存系统,避免用户在请求时先查询数据库然后再将数据缓存,用户可以直接查事先被预热的缓存数据
缓存更新
-
缓存服务器除了自带缓存失效的特点,Redis有6种策略可供选择,我们还可以根据具体的业务需求进行自定义缓存淘汰,常见的策略有两种:
定时去清理过期的缓存;
当有用户请求过来时,再判断这个请求所用到的缓存是否过期,过期的话就去底层系统取新数据并更新缓存
缓存降级
当访问量剧增服务出现问题,如响应慢或不响应,边缘服务影响到核心流程的性能,需要保证服务可用,即使是有损服务,系统可以根据一些关键数据进行自动降级,也可以配置开关实现人工降级
降级的最终目的是保证核心服务可用,即使是有损的,而且有些服务是无法降级的,如加入订单结算等
-
在进行降级之前要对系统进行梳理,看看系统是不是可以丢卒保帅,从而梳理出哪些必须誓死保护,哪些可降级,比如可以参考日志级别设置预案:
一般:比如有些服务偶尔因为网络抖动或者服务正在上线而超时,可以自动降级;
警告:有些服务在一段时间内成功率有波动(如在95~100%之间),可以自动降级或人工降级,并发送告警;
错误:比如可用率低于90%,或者数据库连接池被打满了,或者访问量突然猛增到系统能承受的最大阀值,此时可以根据情况自动降级或者人工降级;
严重错误:比如因为特殊原因数据错误了,此时需要紧急人工降级