摘要：tomcat的三种模式如果用对了场合,性能绝对有大幅度的提升。当然调优也并不只在这一个方面,还有内存(堆内存、非堆内存、新生代内存)以及线程(最大线程、请求队列、备用线程、压缩、以及禁用dns轮询)等方面。那在做tomcatbionioapr模式之前,先来了解下java的一些特性吧。JavaBIO、NIO、AIO同步:自己亲自出马持银行卡到银行取钱(使用同步IO时,Java自己处理IO读写)。异步:委托一小弟拿银行卡到银行取钱,然后给你(使用异步IO时,Java将IO读写委托

tomcat 的三种模式如果用对了场合,性能绝对有大幅度的提升。当然调优也并不只在这一个方面,还有内存(堆内存、非堆内存、新生代内存)以及线程(最大线程、请求队列、备用线程、压缩、以及禁用dns轮询)等方面。

那在做tomcat bio nio apr 模式之前,先来了解下 java的一些特性吧。

Java BIO、NIO、AIO

同步 : 自己亲自出马持银行卡到银行取钱(使用同步IO时,Java自己处理IO读写)。

异步 : 委托一小弟拿银行卡到银行取钱,然后给你(使用异步IO时,Java将IO读写委托给OS处理,需要将数据缓冲区地址和大小传给OS(银行卡和密码),OS需要支持异步IO操作API)。

阻塞 : ATM排队取款,你只能等待(使用阻塞IO时,Java调用会一直阻塞到读写完成才返回)。

非阻塞 : 柜台取款,取个号,然后坐在椅子上做其它事,等号广播会通知你办理,没到号你就不能去,你可以不断问大堂经理排到了没有,大堂经理如果说还没到你就不能去(使用非阻塞IO时,如果不能读写Java调用会马上返回,当IO事件分发器会通知可读写时再继续进行读写,不断循环直到读写完成)。

Java对BIO、NIO、AIO的支持:

Java BIO : 同步并阻塞,服务器实现模式为一个连接一个线程,即客户端有连接请求时服务器端就需要启动一个线程进行处理,如果这个连接不做任何事情会造成不必要的线程开销,当然可以通过线程池机制改善。

Java NIO : 同步非阻塞,服务器实现模式为一个请求一个线程,即客户端发送的连接请求都会注册到多路复用器上,多路复用器轮询到连接有I/O请求时才启动一个线程进行处理。

Java AIO(NIO.2) : 异步非阻塞,服务器实现模式为一个有效请求一个线程,客户端的I/O请求都是由OS先完成了再通知服务器应用去启动线程进行处理

BIO、NIO、AIO适用场景分析:

BIO方式适用于连接数目比较小且固定的架构,这种方式对服务器资源要求比较高,并发局限于应用中,JDK1.4以前的唯一选择,但程序直观简单易理解。

NIO方式适用于连接数目多且连接比较短(轻操作)的架构,比如聊天服务器,并发局限于应用中,编程比较复杂,JDK1.4开始支持。

AIO方式使用于连接数目多且连接比较长(重操作)的架构,比如相册服务器,充分调用OS参与并发操作,编程比较复杂,JDK7开始支持。

好,下面来看看tomcat 的 bio、nio、apr 模式

bio bio(blocking I/O),顾名思义,即阻塞式I/O操作,表示Tomcat使用的是传统的Java I/O操作(即java.io包及其子包)。Tomcat在默认情况下,就是以bio模式运行的。遗憾的是,就一般而言,bio模式是三种运行模式中性能最低的一种。我们可以通过Tomcat Manager来查看服务器的当前状态。

nio 是Java SE1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。

apr (Apache Portable Runtime/Apache可移植运行库),是Apache HTTP服务器的支持库。你可以简单地理解为,Tomcat将以JNI的形式调用Apache HTTP服务器的核心动态链接库来处理文件读取或网络传输操作,从而大大地提高Tomcat对静态文件的处理性能。 Tomcat apr也是在Tomcat上运行高并发应用的首选模式

准备环境 1) CentOS 7 2) 32G内存 3) 1颗6核的CPU Intel(R) Xeon(R) CPU E5-2603 v3 @ 1.60GHz cpu MHz: 1200.062 4) Tomcat6和Tomcat8 内存配置相同 -Xms512m -Xmx10240m 5) Tomcat6和Tomcat8 线程配置相同 maxThreads="2000" minSpareThreads="150" 6) Tomcat8 使用jdk1.8 Apache Tomcat/8.0.32 JVM Version: 1.8.0_65-b17 7) Tomcat6 使用jdk1.6 Apache Tomcat/6.0.44 JVM Version: 1.6.0_21-b06 8) ulimit -n 65535 9) 测试工具ab 分别并发100、200、300、400、500、1000、1500、2000个用户连续发送100万请求 ab -kc 100 -n 1000000http://localhost:9099/docs/ 

测试执行及结果 2.1 Tomcat6和Tomcat8 静态页面的测试结果

tomcat6和8性能比较.jpg

表格对比得出Tomcat8在当前配置情况下,并发用户数为1500,吞吐率和请求处理时间 最佳;而Tomcat6 则是在并发用户数为100时吞吐率和请求处理时间最佳。推出:Tomcat8在并发用户数上优于Tomcat6,可同时处理更多用户发起的请求。 测试过程中的CPU最高使用率:Tomcat8为44%、Tomcat6为30%。

2.2 Tomcat8 的apr、nio、bio 静态页面的测试结果 优化后的apr测试结果 apr从操作系统级别来解决异步的IO问题,大幅度的提高性能 配置:protocol="org.apache.coyote.http11.Http11AprProtocol"

tomcat apr.jpg

使用apr得到测试结果吞吐率比之前高了36%,请求等待时间比之前降低了26%,请求处理时间比之前快了26%。

nio的结果 配置protocol="org.apache.coyote.http11.Http11NioProtocol" 利用java的异步io,no blocking IO技术,其测试结果和apr未优化前相近。

tomcat8 nio.jpg

bio的测试结果 一个线程处理一个请求。缺点:并发量高时,线程数较多,浪费资源。 配置protocol="org.apache.coyote.http11.Http11Protocol"

tomcat8 bio.jpg

数据图表 数据来源是上面的图表,为了方便对比,重新整成图

吞吐率对比

请求等待时间对比

请求处理时间对比

apr的使用 安装apr apr-util apr-iconv openssl-devel

yum install -y openssl-devel 

http://apr.apache.org/download.cgi 

下载最新版本 

wget http://mirrors.tuna.tsinghua.edu.cn/apache//apr/apr-1.5.2.tar.gz 

wget http://mirrors.tuna.tsinghua.edu.cn/apache//apr/apr-util-1.5.4.tar.gz 

wget http://mirrors.tuna.tsinghua.edu.cn/apache//apr/apr-iconv-1.2.1.tar.gz 

安装方式 

先装apr 

./configure &;&; make &;&; make install 

安装apr-util 和 apr-iconv 时用 

./configure --with-apr=/usr/local/apr &;&; make &;&; make install 

$TOMCAT_HOME/bin/ 

tar -zxf tomcat-native.tar.gz 

cd tomcat-native-1.2.4-src/native 

./configure --with-apr=/usr/local/apr&;&; make &;&; make install 

在catalina.sh中加

LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib 

export LD_LIBRARY_PATH 

在server.xml中加