前言
这篇文章最早是写于2019-08-14,在公司的
confluence
发布过。由于最近想标记整理压缩一些知识点碎片,于是便有了这篇文章的诞生。
项目介绍
- DS App
- DAU 百万
- 注册用户近3000w
- DNU 几十万
线上排查工具介绍
jmap
是java
虚拟机自带的一种内存映像工具。jstat
是JDK
自带的一个轻量级小工具。全称Java Virtual Machine statistics monitoring tool
,它位于java
的bin
目录下,主要利用JVM
内建的指令对Java
应用程序的资源和性能进行实时的命令行的监控,包括了对Heap size
和垃圾回收状况的监控。jstack
是Jdk
自带的线程跟踪工具,用于打印指定Java
进程的线程堆栈信息。
mat
是一个检查内存泄漏的工具vjmap
是唯品会开源出来的是用于排查内存缓慢泄露,老生代增长过快原因的利器。因为jmap -histo PID
打印的是整个Heap
的对象统计信息,而为了定位上面的问题,我们需要专门查看OldGen
对象,和Survivor
区大龄对象的工具。(只支持CMS
和ParallelGC
,不支持G1
)jvisualvm
是JDK
自带的监控程序。能够监控线程,内存情况,查看方法的CPU
时间和内存中的对象,已被GC
的对象,反向查看分配的堆栈jconsole
是JDK
自带的监控程序。用于对JVM
中内存,线程和类等的监控。
线上排查使用到的命令
查看进程使用gc
情况: jstat -gc 16969<pid> 5000(打印时间间隔)
-
S0C
:年轻代中第一个survivor
(幸存区)的容量 (KB) -
S1C
:年轻代中第二个survivor
(幸存区)的容量 (KB) -
S0U
:年轻代中第一个survivor
(幸存区)目前已使用空间 (KB) -
S1U
:年轻代中第二个survivor
(幸存区)目前已使用空间 (KB) -
EC
:年轻代中Eden
(伊甸园)的容量 (KB) -
EU
:年轻代中Eden
(伊甸园)目前已使用空间 (KB) -
OC
:Old
代的容量 (KB) -
OU
:Old
代目前已使用空间 (KB) -
MC
:元空间的容量 (KB) -
MU
:元空间目前已使用空间 (KB) -
CCSC
:压缩类空间大小 -
CCSU
:压缩类空间使用大小 -
YGC
:从应用程序启动到采样时年轻代中gc
次数 -
YGCT
:从应用程序启动到采样时年轻代中gc
所用时间(s) -
FGC
:从应用程序启动到采样时old
代(全gc
)gc
次数 -
FGCT
:从应用程序启动到采样时old
代(全gc
)gc
所用时间(s) -
GCT
:从应用程序启动到采样时gc
用的总时间(s)
类加载统计
jstat -class 16969<pid>
java进程堆栈信息打印
jstack 16969<pid>
查看pid对应的线程使用CPU
情况和内存占用:
top -Hp pid
打印当前java堆中各个对象的数量,大小一页数据为50
jmap -histo pid | more -n 50
查看java堆中实例数数量前10的类
jmap -histo pid | sort -n -r -k 2 | head -10
查看java堆中容量前10的类
jmap -histo pid | sort -n -r -k 3 | head 10
查看整个JVM
内存状态
jmap -heap <pid>
快照java堆信息到指定文件(会触发Full GC
, 如果快照文件过大,会使目标进程stop world
)
jmap -dump:format=b,file=quMall.dump 16969<pid>
显示堆中活跃对象的统计信息,比如实例数量,占用空间(会触发Full GC
)
jmap -histo:live <pid>
查看进程使用的GC
算法(实际上用到了javaagent
技术来实现的:
jinfo -flags 23467<pid>
查看应用运行的时间
ps -p 11864<pid> -o etime
显示垃圾回收的相关信息, 同时显示最后一次或当前正在发生的垃圾回收的诱因
jstat -gccause <pid> 5000<interval>
查看GC
使用情况(比如s0
区使用了多少):
jstat -gcutil 6011<pid>
查看JVM
内存中三代(young
,old
,metaspace
)对象的使用和占用大小
jstat -gccapacity <pid>
查看metaspace
中对象的信息及其占用量
jstat -gcmetacapacity<pid>
查看年轻代对象的信息
jstat -gcnew <pid>
查看年轻代对象的信息及其占用量
jstat -gcnewcapacity <pid>
查看old
代对象的信息
jstat -gcold <pid>
查看old
代对象的信息及其占用量
jstat -gcoldcapacity <pid>
查看进程是否启动AdaptiveSizePolicy
策略
jinfo -flag UseAdaptiveSizePolicy 26626<pid>
查看MetaSpace
默认初始化大小(默认是20.8MB)
java -XX:+PrintFlagsInitial|grep Meta
打印整个堆中对象的统计信息,按对象的total size排序
./vjmap.sh -all PID > /tmp/histo.log
推荐,打印老年代的对象统计信息,按对象的oldgen size排序,比-all快很多,暂时只支持CMS
./vjmap.sh -old PID > /tmp/histo-old.log
推荐,打印Survivor区的对象统计信息,默认age>=3
./vjmap.sh -sur PID > /tmp/histo-sur.log
推荐,打印Survivor区的对象统计信息,查看age>=4的对象
./vjmap.sh -sur:minage=4 PID > /tmp/histo-sur.log
推荐,打印Survivor区的对象统计信息,单独查看age=4的对象
./vjmap.sh -sur:age=4 PID > /tmp/histo-sur.log
仅输出存活的对象,原理为正式统计前先执行一次full gc
./vjmap.sh -old:live PID > /tmp/histo-old-live.log
过滤对象大小,不显示过小的对象。按对象的oldgen size进行过滤,只打印OldGen占用超过1K的数据
./vjmap.sh -old:minsize=1024 PID > /tmp/histo-old.log
dump文件分析
1.快照目标进程的堆信息到执行文件jmap -dump:format=b,file=mall.dump 16969<pid>
。dump文件比较大,如果从生产服务器拉到本地,会触发带宽报警。如果要执行该操作,请在电商研发团队事先@所有人。
2.使用mat
工具打开堆快照文件。(mat的基本操作可以看参考文章)
-
Histogram
可以列出内存中的对象,对象的个数以及大小 -
Dominator Tree
可以列出处于活跃状态的大对象。 -
Top consumers
通过图形列出最大的object
。 -
Leak Suspects
自动分析泄漏的原因。
3.点开Reports->Leak Suspects
查看有可能内存泄漏的地方,
,可以体现出哪些对象被保持在内存中,以及为什么它们没有被垃圾回收。
图1可以看到WebappClassLoader
占用了25,177,944字节的容量,
这是tomcat
的类加载器,JDK
自带的系统类加载器中占用比较多的是HashMap
,这个其实比较正常。 图2可以看到JDBC4Connection
的实例有539个,占用的空间是22,302,560字节,这个是比较可疑。
4.点开Actions->Histogram
,模拟搜索JDBC
。发现关于JDBC
相关的实例数还挺多的。右键点击com.mysql.jdbc.JDBC4Connection
,选择with outgoing references
查看JDBC4Connection
实例具体的依赖关系。
-
with incoming references
表示的是 当前查看的对象,被外部应用。 -
with outGoing references
表示的是 当前对象,引用了外部对象。
5.选中一个JDBC4Connection
实例,右键选择Merge Shortest Paths to GC roots -> with all references
查看JDBC4Connection
到GC roots
的路径。
-
Paths to GC
: 从当前对象到GC roots
的路径,这个路径解释了为什么当前对象还能存活,对分析内存泄露很有帮助,这个查询只能针对单个对象使用。 -
Merge Shortest Paths to GC
:从GC roots
到一个或一组对象的公共路径。 -
exclude all phantom/weak/soft etc.reference
(排除所有虚弱软引用) ->查看剩余未被回收的强引用对象占用原因 &GC Roots
。
6.可见JDBC4Connection
被2个对象引用,一个是BasicResourcePool
中的formerResources
(曾经在连接池里呆过的对象)变量,一个是MySQL JDBC Driver
的ConnectionPhantomReference
NonRegisteringDriver.java
这个虚引用是在JDBC Driver
在构造connection
时用来track
这个connection
的,在被GC回收前做一些clean up
(释放资源)的事情,所以每个connection
被构造出来后,都会被track
,这是Driver
为了防止有资源随着连接回收而未释放的手段。
public class AbandonedConnectionCleanupThread extends Thread {
private static boolean running = true;
private static Thread threadRef = null;
public AbandonedConnectionCleanupThread() {
super("Abandoned connection cleanup thread");
}
public void run() {
threadRef = this;
while (running) {
try {
Reference<? extends ConnectionImpl> ref = NonRegisteringDriver.refQueue.remove(100);
if (ref != null) {
try {
((ConnectionPhantomReference) ref).cleanup();
} finally {
NonRegisteringDriver.connectionPhantomRefs.remove(ref);
}
}
} catch (Exception ex) {
// no where to really log this if we're static
}
}
}
public static void shutdown() throws InterruptedException {
running = false;
if (threadRef != null) {
threadRef.interrupt();
threadRef.join();
threadRef = null;
}
}
}
被PhantomReference
引用的对象在被GC
时,
JVM
会将PhantomReference对象扔到refqueue
。然后会通过
AbandonedConnectionCleanupThread
这个线程从NonRegisteringDriver.refQueue
中拿到ConnectionPhantomReference
,然后执行cleanup
方法,最后删除connectionPhantomRefs
这个ConcurrentHashMap
中的ConnectionPhantomReference
对象,完成connection
相关资源的回收。
但是我们排查的结果是ConnectionPhantomReference
并没有得到清理。经过查阅一些资料,得出以下结论:
似乎问题是CompressionInputStream'
有对同一ConnectionImpl
的引用,ConnectionPhantomReference
正在等待在ReferenceQueue
上排队,说它有资格进行垃圾回收。ConnectionPhantomReference
通过它引用的com.mysql.jdbc.NetworkResources
对象对CompressionInputStream
有一个强引用。ConnectionPhantomReference
由NonRegisteringDriver
中的静态ConcurrentHashMap
强烈保存。结果是ConnectionPhantomReference
有效地引用了它要等待GC
的JDBC4Connection
对象; 并使JDBC4Connection
实例保持活动状态,因此不符合垃圾回收的条件。
所以在我们程序中要定时去清除ConnectionPhantomReference
引用。在quMall项目中一台服务器中Full GC清除7110个PhantomReference
引用,耗时竟然达到0.6s。但是通过程序定时删除这些引用,下一次Full GC清除这些引用耗时可以忽略不计。
/**
* @author xiaoma
* @version V1.0
* @Description: 解决PhantomReference引用过多,造成内存泄漏
* PhantomReference, 7110 refs, 587 refs, 0.6012897 secs
* @date 2019/8/12 15:12
*/
@Service
public class MysqlConnectionPhantomRefCleaner implements InitializingBean {
private Field declaredField;
private ConcurrentHashMap referenceMap;
@Override
public void afterPropertiesSet() throws Exception {
try {
declaredField = NonRegisteringDriver.class.getDeclaredField("connectionPhantomRefs");
declaredField.setAccessible(true);
referenceMap = (ConcurrentHashMap<?, ?>) declaredField.get(null);
} catch (Exception ex) {
LogService.info(MessageFormat.format(
"清除PhantomReference计划, 初始化失败:{0}",
ex.getMessage()
));
}
}
/**
* 每秒10s清理一次
*/
@PostConstruct
public void clear() {
ScheduledExecutorService scheduledExecutorService = Executors.newScheduledThreadPool(1);
LogService.info("清除PhantomReference计划, 初始化成功");
synchronized (MysqlConnectionPhantomRefCleaner.class) {
scheduledExecutorService.scheduleAtFixedRate(new Runnable() {
@Override
public void run() {
if (!referenceMap.isEmpty()) {
int size = referenceMap.size();
LogService.info(MessageFormat.format(
"清除PhantomReference计划, current Mysql ConnectionPhantomReference map size:{0} start to clear",
size
));
referenceMap.clear();
}
}
}, 1, 10, TimeUnit.SECONDS);
}
}
}
7.再来讲讲formerResources
引用,我列出formerResources
相关代码。
private void removeResource(Object resc, boolean synchronous){
...
unused.remove(resc);
destroyResource(resc, synchronous, checked_out);
addToFormerResources( resc );
asyncFireResourceRemoved( resc, false, managed.size(), unused.size(), excluded.size() );
...
}
private void cullExpired(){
...
if ( shouldExpire( resc ) )
{
if ( logger.isLoggable( MLevel.FINER ) )
logger.log( MLevel.FINER, "Removing expired resource: " + resc + " [" + this + "]");
target_pool_size = Math.max( min, target_pool_size - 1 ); //expiring a resource resources the target size to match
removeResource( resc );
}
...
}
public Object checkoutResource( long timeout ){
Object resc = prelimCheckoutResource( timeout );
...
}
private synchronized Object prelimCheckoutResource( long timeout ){
...
Object resc = unused.get(0);
...
else if ( shouldExpire( resc ) ){
removeResource( resc );
ensureMinResources();
return prelimCheckoutResource( timeout );
}
}
cullExpired
这个方法是c3p0
的一个定时器里执行的方法,用来检查过期连接的。c3p0
会定时对idle
连接进行连接池过期检查。若空闲时间超过MaxIdleTime
,则会remove
,会加入到formerResources
中。如果最后剩下的idle
连接数超过或者小于minIdle
的连接数,也会相应的进行缩减或者扩容,直到minIdle
个连接数。
idleConnectionTest
是维持连接池的idle
连接和MySQL
之间的心跳,防止MySQL Server
端踢掉应用的连接,而前面提到的连接池过期检查则是c3p0
对连接归还后是否长时间没被再次借出为依据来判断连接是否过期。
如果配置了maxIdleTime
, 处于keep alived
的连接会被认为是过期连接。连接池将丢弃这些连接,并创建新连接。因此,NonRegisteringDriver
将慢慢地保留越来越多的JDBC4Connection
对象,并且您将慢慢地发生内存泄漏。 这里也会造成频繁的Young GC
。
checkoutResource
是每次获取连接的时候,会对连接进行过期检查的校验。如果连接空闲时间超过MaxIdleTime
,该连接会标志已经过期,
调用removeResource
,将连接加入到formerResources
中。配置了MaxIdeTime
参数,checkout
操作会加快过期连接的失效和创建新连接的速度,导致formerResources
里退休的连接变多,最终加快了老年代的增长和内存泄漏。
正确的姿势是去掉maxIdleTime
配置,
配置了idleConnectionTestPeriod
这个参数即可。
类似的问题还会存在JedisPoolConfig
中,这些都可以归结成持久化对象在JVM
中的存活生命周期问题。
连接池对象,本地缓存对象都是,这些对象存活时间久,处于JVM的老生代中,应用希望尽可能的重用它们,但若结合具体场景的配置或使用不合理,导致这些对象并未最大化被重用,比如上面提到的过期检查导致不断有新的对象被创建出来,因为是持久化对象,很容易就进入到了老生代,霸占了资源。
上图是JedisPoolConfig
默认配置,每30秒进行一次扫描,如果发现有空闲时间超过60s连接,执行清除操作。如果当前连接少于minIdle个,则会再创建新的。而清除掉的连接若未及时的被YGC掉,会进入到老年代。
我们只需配置minEvictableIdleTimeMills=-1
,softMinEvictableIdleTimeMillis=60000
就可以上述的问题。这样就不会对minIdle
的连接进行清理,只有当连接数超过minIdle
后,才进行清理工作。
JVM基础参数
-XX:ParallelGCThreads=8
JVM
在进行并行GC
的时候,用于GC
的线程数,一般是机器的核数。
-XX:+UseConcMarkSweepGC
打开此开关参数后,使用ParNew+CMS+Serial Old
收集器组合进行垃圾收集。Serial Old
作为CMS
收集器出现Concurrent Mode Failure
的备用垃圾收集器。
-XX:+UseParallelGC
打开此开关参数后,使用Parallel Scavenge+Serial Old
收集器组合进行垃圾收集。
-XX:+UseParallelOldGC
打开此开关参数后,使用Parallel Scavenge+Parallel Old
收集器组合进行垃圾收集。
JDK1.8
默认使用Parallel Scavenge
年轻代回收器和Parallel Old
老年代回收器, 默认打开AdaptiveSizePolicy
策略。CMS
默认关闭AdaptiveSizePolicy
策略。在quMall
项目中,没有关闭AdaptiveSizePolicy
策略,造成S0
,S1
区只有8MB
,从而导致频繁Young GC
。所以要手动设置使Eden:S0:S1 = 8 : 1 : 1
-XX:SurvivorRatio=8
-XX:-UseAdaptiveSizePolicy
AdaptiveSizePolicy
为了达到三个预期目标,涉及以下操作:
- 如果
GC
停顿时间超过了预期值,会减小内存大小。理论上,减小内存,可以减少垃圾标记等操作的耗时,以此达到预期停顿时间。 - 如果应用吞吐量小于预期,会增加内存大小。理论上,增大内存,可以降低
GC
的频率,以此达到预期吞吐量。 - 如果应用达到了前两个目标,则尝试减小内存,以减少内存消耗。
引用R大说过的话:
HotSpot VM
里,ParallelScavenge
系的GC
(UseParallelGC
,UseParallelOldGC
)默认行为是SurvivorRatio
如果不显式设置就没啥用。显式设置到跟默认值一样的值则会有效果。因为ParallelScavenge
系的GC
最初设计就是默认打开AdaptiveSizePolicy
的,它会自动、自适应的调整各种参数
在这里说下默认的ParallelScavenge
和 ParallelOld
垃圾回收器:
-
Paralle Scavenge
(年轻代):- 新生代收集器,可以和
Serial Old
、Parallel
组合使用,不能和CMS
组合使用。采用复制算法。使用多线程进行垃圾回收,回收时会导致Stop The World
。关注系统吞吐量。 -
-XX:MaxGCPauseMillis
:设置大于0
的毫秒数,收集器尽可能在该时间内完成垃圾回收。 -
-XX:GCTimeRatio
:大于0
小于100
的整数,即垃圾回收时间占总时间的比率,设置越小则希望垃圾回收所占时间越小,CPU能花更多的时间进行系统操作,提高吞吐量。也就是垃圾收集时间占总时间的比率,相当于是吞吐量的倒数。如果把此参数设置为19
,那允许的最大GC时间就占总时间的5
%(即1
/(1
+19
)),默认值为99
,就是允许最大1%
(即1
/(1
+99
))的垃圾收集时间。 -
GC
日志关键字:PSYoungGen
- 新生代收集器,可以和
-
Parallel Old
(年老代)- 年老代收集器,只能和
Parallel Scavenge
组合使用(Parallel Scavenge
收集器的年老代版本。采用标记-整理算法,会对垃圾回收导致的内存碎片进行整理关注吞吐量的系统可以将Parallel Scavenge+Parallel Old
组合使用。 -
GC
日志关键字:ParOldGen
- 年老代收集器,只能和
对于重载了 Object
类的 finalize
方法的类实例化的对象(这里称为 f
对象),JVM
为了能在GC
对象时触发f
对象的finalize
方法的调用,将每个f
对象包装生成一个对应的FinalReference
对象,方便 GC
时进行处理。
SocksSocketImpl
中重载了finalize
方法,防止Socket
连接忘记关闭导致资源泄漏而进行的保底措施。
对于RPC
调用短连接场景,每调用一次就会创建一个Socket
对象。致使 FinalReference
对象非常多, 因此YoungGC
耗时增加。
下面参数, 可以在 GC
的时候多线程并行处理Reference
,降低GC
时长。
-XX:+ParallelRefProcEnabled
开启压缩对象指针(默认开启),启用CompressOops
后,会压缩的对象:
• 每个Class
的属性指针(静态成员变量)
• 每个对象的属性指针
• 普通对象数组的每个元素指针。
-XX:+UseCompressedOops
- 扩展知识:
HotSpot
虚拟机中,对象在内存中存储的布局,可以分为三块区域:对象头(header
),实例数据(Instance Data
),对象填充(Padding
)。对象头包括markword
和类型指针(class
对象指针)。如果是数组,还包括数组长度。实例数据:对象实际的数据。
对象填充:对齐,按
8
字节对齐。Java
内存地址按照8
字节对齐,长度必须是8
的倍数。
markword
:用于存储对象自身运行时的数据,如哈希码,GC
分代年龄,锁状态标志,线程持有的锁,偏向线程ID
,偏向时间戳。在
32
位JVM
中,markword
是32
bit,类型指针是32
bit,数组长度是32
bit。从而得知一个普通对象头是8
个字节,一个数组对象头是16
个字节。在
64
位JVM中,markword是64
bit,类型指针是64
bit,开启指针压缩时是32
bit,数组长度是64
bit,开启压缩时是32
bit。从而得知一个无压缩的普通对象头是16
个字节,一个开启压缩的普通对象头是12
个字节。一个无压缩的数组对象头是24
个字节,一个开启压缩的数组对象头是16
个字节。对象头在32
位系统占用8
字节,而在64
位系统上占用16
字节。-
Referece
类型在32
位系统上每个占用4
字节,而在64
位系统上每个占用8
字节。
在Metaspace
中开辟出一块类指针压缩空间(Compressed Class Space
),默认是1G
(默认开启)。对象中指向类元数据的指针会被压缩成32
位。
-XX:+UseCompressedClassPointers
-XX:CompressedClassSpaceSize=1G
使用CMS
时,打开对年老代的压缩。可能会影响性能,但是可以消除碎片。
-XX:+UseCMSCompactAtFullCollection
使用CMS
,设置多少次FullGc
后,对年老代进行压缩。
由于CMS
不对内存空间进行压缩、整理、所以运行一段时间以后会产生“碎片”,使得运行效率降低。此值设置运行多少次GC
以后对内存空间进行压缩、整理。
-XX:CMSFullGCsBeforeCompaction=0
这两个设置一般配合使用,一般用于『降低CMS GC频率或者增加频率、减少GC时长』的需求
-XX:CMSInitiatingOccupancyFraction=70
是指设定CMS
在对内存占用率达到70%
的时候开始GC
(因为CMS
会有浮动垃圾,所以一般都较早启动GC
);
-XX:+UseCMSInitiatingOccupancyOnly
只是用设定的回收阈值(上面指定的70%
),如果不指定,JVM
仅在第一次使用设定值,后续则自动调整。
CMS整个过程分为4步:
- 初始标记(
CMS initial mark
) - 并发标记(
CMS concurrent mark
) - 重新标记(
CMS remark
) - 并发清除(
CMS concurrent sweep
)。在这个阶段会出现浮动垃圾。CMS
收集器无法处理浮动垃圾,可能出现Concurrent Mode Failure
失败而导致另一次Full GC
的产生。由于在垃圾收集阶段用户线程还需要运行,即还需要预留足够的内存空间给用户线程使用,因此CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,需要预留一部分空间提供并发收集时的程序运作使用。
在CMS GC
前启动一次ygc
,目的在于减少old gen
对ygc gen
的引用,降低remark
时的开销, 一般CMS
的GC
耗时80%
都在remark阶段。
-XX:+CMSScavengeBeforeRemark
在进行GC
的前后打印出堆的信息
-XX:+PrintHeapAtGC
输出GC
的详细日志
-XX:+PrintGCDetails
输出GC
的时间戳(以基准时间的形式)
-XX:+PrintGCDateStamps
打印GC
时各种引用的处理时间。
-XX:+PrintReferenceGC
输出GC
日志
-XX:+PrintGC
打开了就知道是多大的新生代对象晋升到老生代失败从而引发Full GC
时的。
-XX:+PrintPromotionFailure
输出显示在survivor
空间里面有效的对象的岁数情况。
-XX:+PrintTenuringDistribution
打印产生GC
的原因,比如AllocationFailure
什么的,在JDK8
已默认打开,JDK7
要显式打开一下。
-XX:+PrintGCCause
GC
日志存放的位置。
-Xloggc:logs/quMall_gc.log"
如果达到初始化值就会触发垃圾收集进行类型卸载,同时GC
会对该值进行调整:如果释放了大量的空间,就适当降低该值;如果释放了很少的空间,那么在不超过MaxMetaspaceSize
时,适当提高该值。默认值是20.8MB
。如果不手动指定元空间的大小,会因为元空间的扩容机制,造成频繁的Full GC
。
-XX:MetaspaceSize=256m
-XX:MaxMetaspaceSize=256m
默认(MinHeapFreeRatio
参数可以调整)空余堆内存小于40%
时,JVM
就会增大堆直到-Xmx
的最大限制。
默认(MaxHeapFreeRatio
参数可以调整)空余堆内存大于70%
时,JVM会减少堆直到 -Xms
的最小限制。
注意:java
应用的jvm
参数Xms
与Xmx
保持一致,避免因所使用的Java
堆内存不够导致频繁full gc
以及full gc
中因动态调节Java
堆大小而耗费延长其周期。
-XX:MinHeapFreeRatio=40
-XX:MaxHeapFreeRatio=70
-Xms3072m
-Xmx3072m
如果没有配置-XX:+DisableExplicitGC
,即没有屏蔽System.gc()
触发FullGC
,那么可以通过排查GC
日志中有System
字样判断是否System.gc()
触发。
注意:如果应用中有用到Netty
并且配置了该参数会内存溢出。
Netty
中的DirectByteBuffer
分配空间过程中发现直接内存不足时会显式调用System.gc()
,以期通过Full GC
来强迫已经无用的DirectByteBuffer
对象释放掉它们关联的native memory
。
-XX:+DisableExplicitGC
GC日志分析
之前看到电商模块中的一台服务器实例频繁Full GC
和YGC
,感觉很不正常,以下是排查定位问题的步骤。
1.先定位整个堆中哪些对象的实例数和占用空间比较多。话外音:如果垃圾回收器使用的是CMS
和ParallelGC
,可以使用vjmap
快速定位年老代和Survivor
区的对象统计信息,减少卡顿时间。
使用jmap -histo:live <pid>
命令,可以看到跟JDBC
相关类的实例数和占用空间比较多。为了进一步验证猜想,可以dump
文件导入到mat
工具进行分析(上面已经验证了JDBC
存在内存泄漏)。
2.使用jstat -gc 16969<pid> 5000<interval>
命令查看gc
情况,发现S0
和S1
区只有7-8MB。接着使用jstat -gcutil 6011<pid>查看堆中各区域使用情况,发现S0
区占比很高。
因为使用的是Parallel Scavenge
、Parallel Old
垃圾回收器,会启动AdaptiveSizePolicy
策略。当这个参数打开之后,就不需要手工指定新生代的大小(-Xmn
)、Eden
与Survivor
区的比例(-XX:SurvivorRatio
)、晋升老年代对象大小门槛(-XX:PretenureSizeThreshold
)等细节参数了,虚拟机会根据当前系统的运行情况收集性能监控信息,动态调整这些参数以提供最合适的停顿时间或最大的吞吐量,这种调节方式称为GC
自适应的调节策略(GC Ergonomics
)。
所以我们要禁用这个参数且将Eden
:S0
:S1
设置为8:1:1
-XX:SurvivorRatio=8
-XX:-UseAdaptiveSizePolicy
设置完这个参数后,再查看GC
使用情况后,发现S0
和S1
区容量变大,S0
区占用比也急剧减少,从而YGC
减少。
3.查看GC
日志,发现造成频繁Full GC
的原因是Metadata GC Threshold
。这由于没有设置Metaspace
参数,导致初始化大小为20.8MB
的元空间不够用,频繁扩容导致的Full GC
。
-XX:MetaspaceSize=256m
-XX:MaxMetaspaceSize=256m
- 如果使用
jmap -histo:live <pid>
和jmap -dump:format=b,file=quMall.dump 16969<pid>
会造成Full GC
。
5.可以看到Full GC
时清除7100
个PhantomReference
引用耗时长达0.6s
。根据上面的分析,我们应该定时清除PhantomReference
引用。同时设置并行处理引用。优化后的Full GC
清除PhantomReference
引用耗时0.0000805s
。
-XX:+ParallelRefProcEnabled
6.另外需要注意的是-Xms
和 -Xmx
应该设置成一样大,避免在每次GC 后调整堆的大小,从而造成频繁Full GC
。
之前没有优化时,近2天GC
的情况。
优化后,近2天GC
的情况。
后续观察JVM状况
没有优化phantomReference,JVM参数配置有误
FGC 124 41.5s YGC 45K 9.8min
没有优化phantomReference, JVM参数配置无误
FGC 15.4 10.2s YGC 24.7k 7.45min
优化phantomReference,没有优化JVM参数
FGC 10 3.7s YGC 34K 9.46min
优化phantomReference, 优化JVM参数
FGC 3.8 2.3s YGC 41.8K 8.9min
参考文章
-
小白系列:
- java高分局之jstat命令使用
- jstack(查看线程)、jmap(查看内存)和jstat(性能分析)
- 通过jstack与jmap分析一次线上故障
- Java常用分析工具之jmap
- 使用Memory Analyzer tool(MAT)分析内存泄漏
- 利用内存分析工具(Memory Analyzer Tool,MAT)分析java项目内存泄露
- allow heap & Retained heap
- 解决com.mysql.jdbc.NonRegisteringDriver的内存泄漏
- Java程序内存分析:使用mat工具分析内存占用
- 内存泄露排查原因及解决方法——内存优化(五)
- GC root & 使用MAT分析java堆
- 使用MAT解决OOM的一次实战经历
- 使用Eclipse Memory Analyzer Tool(MAT)分析线上故障(一) - 视图&功能篇
- c3p0的重连机制
- 唯品会vjmap使用
- -XX:+PrintGCTimeStamps -XX:+PrintGCDetails 日志分析
- JVM之几种垃圾收集器简单介绍
- Java 中的 Reference介绍
- 初步诊断你的GC
-
大佬系列:
尾言
感谢各位大佬观看。
如果您对这篇文章有什么意见或者错误需要改进的地方,欢迎与我讨论。