Nginx1.10.2+Tomcat7.0.69+Memcached1.4.15实现session共享集群


写在前面

在分布式多tomcat web server集群环境下,首先要解决的是session的共享问题,实现思路一般来说有以下三种:
(1) session sticky:其实session sticky并不是session共享方案,而是多tomcat的集群方案,其需要配合nginx/apache实现,将同一用户请求转到相同的tomcat结点,多结点之间并不共享sesison。优点是可以实现简单的用户会话绑定,缺点就是结点故障时,节点上面的session会丢失。所以session sticky这种方案一般会配合下面两种方式使用。
(2) session replication cluster:多tomcat节点之间进行session的同步,集群中的tomcat节点存储相同的session会话信息。
(3) session server:将session集中存储在同一个地方,如redis/memcached,甚至DB。此时,tomcat节点本身内存中并不存储session。
本文采用session server的方式,主要讲解使用memcached-session-manager组件搭建nginx + tomcat + memcached,实现集群和session共享存储环境的大致过程。

实验实现基于Nginx+Tomcat+Memcached的session共享集群

有关参考详见https://github.com/magro/memcached-session-manager,简单网络拓扑如下图所示:

Nginx1.10.2+Tomcat7.0.69+Memcached1.4.15实现session共享集群.jpg

实验环境准备

搭建上图所示的实验环境
为了突出实验的重点,一些部件如路由器、防火墙以及交换机等等一并省略,实验环境在同一个网络中。其中CLIENT是宿主机,其余的机器都采用的虚拟机(系统是centos7.3)。具体版本信息如下:
CentOS Linux release 7.3.1611 (Core)
Nginx 1.10.2
Tomcat 7.0.69
Memcached 1.4.15
说明版本信息的原因是后面使用的jar包可能对centos以及tomcat的版本有要求。
确保所有虚拟机上面的防火墙和selinux处于关闭状态。
各节点时间必须同步
各节点之间通过主机名互相通信,建议使用/etc/hosts文件实现
各节点之间的root用户可以基于密钥认证的ssh服务完成互相通信

实验过程

一、配置Memcached
两台Memcached的配置是类似的,所以以Memcached1为例来说明一下配置的过程。

# 安装Memcached
yum -y install memcached
# 协议格式使用二进制binary格式的话,需要安装专用客户端工具
yum install libmemcached  -y
# 启动memcached
systemctl start memcached
ss -ntlu
# 测试,指令参考/usr/share/doc/memcached-1.4.15/protocol.txt
telnet 127.0.0.1 11211 
add mykey 1 600 15
hello memcached
STORED
get mykey
VALUE mykey 1 15
hello memcached
END
quit

二、配置Tomcat
两台Tomcat的配置类似,所以以Tomcat1为例来说明一下配置的过程。

# 安装JDK
yum install java-1.8.0-openjdk-devel  
# 安装tomcat
yum install tomcat tomcat-admin-webapps tomcat-webapps tomcat-docs-webapp
# 启动tomcat,查看端口和服务是否正常,在客户端用浏览器访问测试一下
systemctl start tomcat
ss -ntlp
# 相关包下载,可参考https://github.com/magro/memcached-session-manager/wiki/SetupAndConfiguration
# 下载的包放在/usr/share/tomcat/lib目录下
spymemcached-2.11.1.jar   javolution-5.4.3.1.jar  
memcached-session-manager-1.8.3.jar
memcached-session-manager-tc7-1.8.3.jar
msm-javolution-serializer-1.8.3.jar
# 修改server.xml
vim  /etc/tomcat/server.xml
# 在<Host name="localhost"  appBase="webapp unpackWARs="true" autoDeploy="true"> 里面添加Context
 <Context path="/myapp" docBase="myapp" reloadable="true">
                 <Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager"
                 memcachedNodes="m1:192.168.1.14:11211,m2:192.168.1.16:11211"
                 failoverNodes="m2"
                 requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$"
   transcoderFactoryClass="de.javakaffee.web.msm.serializer.javolution.JavolutionTranscoderFactory" />
</Context>
# 准备webapp
cd /usr/share/tomcat/webapps/
mkdir myapp/{WEB-INF,META-INF,classes,lib} -pv
# 准备页面
vim myapp/index.jsp
<%@ page language="java" %>
<html>
  <head><title>TomcatA</title></head>
  <body>
    <h1><font color="red">TomcatA.magedu.com</font></h1>
    <table align="centre" border="1">
      <tr>
        <td>Session ID</td>
    <% session.setAttribute("magedu.com","magedu.com"); %>
        <td><%= session.getId() %></td>
      </tr>
      <tr>
        <td>Created on</td>
        <td><%= session.getCreationTime() %></td>
     </tr>
    </table>
  </body>
</html>
# 重启tomcat
systemctl restart tomcat

Tomcat2除了/usr/share/tomcat/webapps/myapp/index.jsp配置不同,其余和Tomcat1是一样的,Tomcat2的index.jsp配置如下:

<%@ page language="java" %>
<html>
  <head><title>TomcatB</title></head>
  <body>
    <h1><font color="blue">TomcatB.magedu.com</font></h1>
    <table align="centre" border="1">
      <tr>
        <td>Session ID</td>
    <% session.setAttribute("magedu.com","magedu.com"); %>
        <td><%= session.getId() %></td>
      </tr>
      <tr>
        <td>Created on</td>
        <td><%= session.getCreationTime() %></td>
     </tr>
    </table>
  </body>
</html>

三、配置Nginx

# 如果有安装有apache,那么停掉服务
systemctl stop httpd
# 安装nginx
yum install nginx
# 配置反代
vim /etc/nginx/nginx.conf
# 在http{}  里面添加
    upstream webgroup{
          server 192.168.1.7:8080;
          server 192.168.1.15:8080;
    }
# server{}修改的部分如下:
    server{
        index index.jsp index.html
        location / {
                    proxy_pass http://webgroup;
        }
    }
# nginx服务启动
nginx

四、CLIENT访问测试
在浏览器(建议用火狐浏览器)中输入http://192.168.1.8/myapp/,访问测试,页面如下:

刷新一下浏览器,页面如下:


发现两次是调度到不同的机器上面,但是会话是同一个,session 共享已经实现。
把Memcached1上的memcached服务停掉。
刷新页面,发现Memcached2充当了会话共享服务器。

注意:备用的memcached m2 启用了,原来只是session复制同步过去,现在是启用了。但是会话没有发生改变。
把Memcached1上的memcached再次启用。

可以注意到的是此时在工作的是Memcached2,不会再转移回去的。
说明:不成功的原因,可能是包版本不匹配,比如报NoSuchFileError。


至此,自己的整理分享就结束了。还是有很多不足的地方,大家发现问题,希望多多指正。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,743评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,296评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,285评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,485评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,581评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,821评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,960评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,719评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,186评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,516评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,650评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,329评论 4 330
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,936评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,757评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,991评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,370评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,527评论 2 349

推荐阅读更多精彩内容