redisson内存溢出排查

前言

Java进程快照的形成

  • 使用 -XX:HeapDumpOnOutOfMemoryError
    在应用程序启动的加入-XX:HeapDumpOnOutOfMemoryError 会使得程序员会崩溃的时候形成java_pidXXXX.hprof文件。我们可用通过eclipse 提供的mat工具进行分析 从而找到问题所在。
  • 使用jmap 生成快照
    在使用jmap生成快照方式,jmap -dump:format=b,file=1.hprof 6876 【6876 是PID 上面命令会生成1.hprof 的文件】
  • 使用eclipse mat 工具分析 快照 http://www.eclipse.org/mat/

背景

测试环境一个新的服务每一周左右就发触发内存溢出问题。

核心报错信息如下:

java.lang.OutOfMemoryError: Java heap space

初步排查结果

image-20210108110656523.png
image-20210108110808368.png
image-20210108111023192.png
1.使用redisson的延迟队列,并且用Queue.take阻塞消费
2.大概一周左右,会发生OOM
3.通过内存快照,发现是redisson 的CommandData野蛮增长 并且里面 ,都是ping的心跳指令

深入分析结果

新版本修改了org.redisson.client.handler.PingConnectionHandler这个类

旧版会导致:org.redisson.client.handler.CommandsQueue 类里边的Queue<QueueCommandHolder> queue 内存溢出,Queue<QueueCommandHolder> queue这里边放的全是PING

clipboard.png
前通过升级 redisson->3.12.5+的版本,解决了此问题,通过分析,最终原因如下
1. Queue的take会导致当前的连接被长时间阻塞住,会导致当前连接的探活会一直按照定时任务新建CommandData,但是由于没法通信 导致对象一直在队列中排队,无限增长,导致最终OOM,只有ping发出去了 那个里面的command对象会被清理掉,等到下次连接复用的时候再new Command 这样才不会OOM
2. 小于3.12.5的redisson是不会判断当前连接是否已经持有CommandData对象会无限新建,新版本修复了这个问题
这里面需要注意的是Queue的take阻塞慎用,大家尽量用poll(timeout)的方式,一方面规避上述问题,一方面做优雅停服的话 take是做不到的

官网修正这个问题时修复了该问题:https://github.com/redisson/redisson/issues/2647
另外还发现另外一个内存泄漏问题:https://github.com/redisson/redisson/issues/2362
如果用了rblockqueue.take 这个问题在3.12.5以前版本必现

新版本核心变更PingConnectionHandler :

image-20210108111440528.png
image-20210108111506875.png

redisson队列原理分析

redisson的延迟原理 
1. 先写入一个延迟队列(zadd)redisson是通过eval脚本写上去的
2. 延迟队列到期后 会在直接导入到目标的 blockqueue上去 目标在redis里面就是个list的数据结构
3.我们消费端通过redissonClient.getBlockingQueue(queueName) 消费

这个在redis执行的命令实际上是 BLPOP 这个质量的官方解释是

image-20210108110253669.png
image-20210108110303640.png

take实际转成底层TCP命令就是无限等,但这个情况只是阻塞当前的连接,对于并发的连接不会有阻塞发生,oom出问题也就是当前几个消费的连接无限new导致的,因为对于jvm是两个独立线程 但是对于redis是同一个client或者同一个connection.

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,718评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,683评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,207评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,755评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,862评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,050评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,136评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,882评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,330评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,651评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,789评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,477评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,135评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,864评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,099评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,598评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,697评论 2 351

推荐阅读更多精彩内容