写在前面
在分布式多tomcat web server集群环境下,首先要解决的是session的共享问题,实现思路一般来说有以下三种:
(1) session sticky:其实session sticky并不是session共享方案,而是多tomcat的集群方案,其需要配合nginx/apache实现,将同一用户请求转到相同的tomcat结点,多结点之间并不共享sesison。优点是可以实现简单的用户会话绑定,缺点就是结点故障时,节点上面的session会丢失。所以session sticky这种方案一般会配合下面两种方式使用。
(2) session replication cluster:多tomcat节点之间进行session的同步,集群中的tomcat节点存储相同的session会话信息。
(3) session server:将session集中存储在同一个地方,如redis/memcached,甚至DB。此时,tomcat节点本身内存中并不存储session。
本文采用session server的方式,主要讲解使用memcached-session-manager组件搭建nginx + tomcat + memcached,实现集群和session共享存储环境的大致过程。
实验实现基于Nginx+Tomcat+Memcached的session共享集群
有关参考详见https://github.com/magro/memcached-session-manager,简单网络拓扑如下图所示:
实验环境准备
搭建上图所示的实验环境
为了突出实验的重点,一些部件如路由器、防火墙以及交换机等等一并省略,实验环境在同一个网络中。其中CLIENT是宿主机,其余的机器都采用的虚拟机(系统是centos7.3)。具体版本信息如下:
CentOS Linux release 7.3.1611 (Core)
Nginx 1.10.2
Tomcat 7.0.69
Memcached 1.4.15
说明版本信息的原因是后面使用的jar包可能对centos以及tomcat的版本有要求。
确保所有虚拟机上面的防火墙和selinux处于关闭状态。
各节点时间必须同步
各节点之间通过主机名互相通信,建议使用/etc/hosts文件实现
各节点之间的root用户可以基于密钥认证的ssh服务完成互相通信
实验过程
一、配置Memcached
两台Memcached的配置是类似的,所以以Memcached1为例来说明一下配置的过程。
# 安装Memcached
yum -y install memcached
# 协议格式使用二进制binary格式的话,需要安装专用客户端工具
yum install libmemcached -y
# 启动memcached
systemctl start memcached
ss -ntlu
# 测试,指令参考/usr/share/doc/memcached-1.4.15/protocol.txt
telnet 127.0.0.1 11211
add mykey 1 600 15
hello memcached
STORED
get mykey
VALUE mykey 1 15
hello memcached
END
quit
二、配置Tomcat
两台Tomcat的配置类似,所以以Tomcat1为例来说明一下配置的过程。
# 安装JDK
yum install java-1.8.0-openjdk-devel
# 安装tomcat
yum install tomcat tomcat-admin-webapps tomcat-webapps tomcat-docs-webapp
# 启动tomcat,查看端口和服务是否正常,在客户端用浏览器访问测试一下
systemctl start tomcat
ss -ntlp
# 相关包下载,可参考https://github.com/magro/memcached-session-manager/wiki/SetupAndConfiguration
# 下载的包放在/usr/share/tomcat/lib目录下
spymemcached-2.11.1.jar javolution-5.4.3.1.jar
memcached-session-manager-1.8.3.jar
memcached-session-manager-tc7-1.8.3.jar
msm-javolution-serializer-1.8.3.jar
# 修改server.xml
vim /etc/tomcat/server.xml
# 在<Host name="localhost" appBase="webapp unpackWARs="true" autoDeploy="true"> 里面添加Context
<Context path="/myapp" docBase="myapp" reloadable="true">
<Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager"
memcachedNodes="m1:192.168.1.14:11211,m2:192.168.1.16:11211"
failoverNodes="m2"
requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$"
transcoderFactoryClass="de.javakaffee.web.msm.serializer.javolution.JavolutionTranscoderFactory" />
</Context>
# 准备webapp
cd /usr/share/tomcat/webapps/
mkdir myapp/{WEB-INF,META-INF,classes,lib} -pv
# 准备页面
vim myapp/index.jsp
<%@ page language="java" %>
<html>
<head><title>TomcatA</title></head>
<body>
<h1><font color="red">TomcatA.magedu.com</font></h1>
<table align="centre" border="1">
<tr>
<td>Session ID</td>
<% session.setAttribute("magedu.com","magedu.com"); %>
<td><%= session.getId() %></td>
</tr>
<tr>
<td>Created on</td>
<td><%= session.getCreationTime() %></td>
</tr>
</table>
</body>
</html>
# 重启tomcat
systemctl restart tomcat
Tomcat2除了/usr/share/tomcat/webapps/myapp/index.jsp配置不同,其余和Tomcat1是一样的,Tomcat2的index.jsp配置如下:
<%@ page language="java" %>
<html>
<head><title>TomcatB</title></head>
<body>
<h1><font color="blue">TomcatB.magedu.com</font></h1>
<table align="centre" border="1">
<tr>
<td>Session ID</td>
<% session.setAttribute("magedu.com","magedu.com"); %>
<td><%= session.getId() %></td>
</tr>
<tr>
<td>Created on</td>
<td><%= session.getCreationTime() %></td>
</tr>
</table>
</body>
</html>
三、配置Nginx
# 如果有安装有apache,那么停掉服务
systemctl stop httpd
# 安装nginx
yum install nginx
# 配置反代
vim /etc/nginx/nginx.conf
# 在http{} 里面添加
upstream webgroup{
server 192.168.1.7:8080;
server 192.168.1.15:8080;
}
# server{}修改的部分如下:
server{
index index.jsp index.html
location / {
proxy_pass http://webgroup;
}
}
# nginx服务启动
nginx
四、CLIENT访问测试
在浏览器(建议用火狐浏览器)中输入http://192.168.1.8/myapp/,访问测试,页面如下:
刷新一下浏览器,页面如下:
发现两次是调度到不同的机器上面,但是会话是同一个,session 共享已经实现。
把Memcached1上的memcached服务停掉。
刷新页面,发现Memcached2充当了会话共享服务器。
注意:备用的memcached m2 启用了,原来只是session复制同步过去,现在是启用了。但是会话没有发生改变。
把Memcached1上的memcached再次启用。
可以注意到的是此时在工作的是Memcached2,不会再转移回去的。
说明:不成功的原因,可能是包版本不匹配,比如报NoSuchFileError。