用docker搭建全栈式应用

简介

本文将以docker为基础，搭建一套简单的应用案例。本文将假定读者已经有一定的Docker应用基础，如懂得用docker pull下载image，懂得用docker run运行一个container等。该案例的应用架构将采用redis的master-slave模式作为数据存储，以django为框架提供web访问，以haproxy作为负载均衡。其架构图如下.

应用架构图

其中App1和App2属于同一个Django的APP.

准备工作

获取相应的docker images

• 可以直接从docker官方获取images

$ docker pull django
$ docker pull redis
$ docker pull haproxy

• 获取成功之后，检查一下images是否真的ok

$ docker images
REPOSITORY          TAG                 IMAGE ID            CREATED             VIRTUAL SIZE
haproxy             latest              46bc5babcc18        3 days ago          139.1 MB
redis               latest              84dbf5edc313        4 days ago          184.8 MB
django              latest              3b0bc67346a2        9 days ago          433.5 MB

• 检查一下各自的版本(root权限)
  redis版本

# docker run -it redis /bin/bash
root@a3ca293915cb:/data# redis-server -v
Redis server v=3.2.0 sha=00000000:0 malloc=jemalloc-4.0.3 bits=64 build=5382f69a4e75566b

haproxy版本

# docker run -it haproxy /bin/bash
root@b11f07766c49:/# haproxy -v
HA-Proxy version 1.6.5 2016/05/10
Copyright 2000-2016 Willy Tarreau <willy@haproxy.org>

django版本

# docker run -it django /bin/bash
root@1daf8d846018:/# django-admin version
1.9.6

检查完后，可以用docker rm把不用的containers删掉

# docker ps -a
CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS                     PORTS               NAMES
1daf8d846018        django              "/bin/bash"              2 minutes ago       Exited (0) 6 seconds ago                       sleepy_hypatia
b11f07766c49        haproxy             "/docker-entrypoint.s"   3 minutes ago       Exited (0) 2 minutes ago                       elegant_tesla
a3ca293915cb        redis               "docker-entrypoint.sh"   5 minutes ago       Exited (0) 3 minutes ago                       stupefied_cray
# docker rm `docker ps -a | grep 'Exited' | awk '{print $1}'`
1daf8d846018
b11f07766c49
a3ca293915cb

从上，本文各版本采用如下:

启动containers

本案例中containers的有关启动配置如下：

启动redis

• 启动redis-master
  在本地当前目录下创建子目录master，并将master挂载到container里的/data目录。container名字为redis-master。为了方便调试，这里同时启动交互式模式-it，并同时打开bash

  # mkdir master
  # docker run -it --name redis-master -v `pwd`/master:/data redis /bin/bash
  root@3d187b223f56:/data#
  

  添加一个测试条目，取key为redis_app，该测试条目将被app1跟app2查询:

  root@3d187b223f56:/data# redis-cli
  127.0.0.1:6379> set redis_app "Hello redis app!"
  OK
  127.0.0.1:6379> get redis_app
  "Hello redis app!"
  

• 启动redis-slave1
  本文案例中将采用两个redis的slave，这里首先启动第一个。container名字为redis-slave1，同时为了方便的连接到redis master，这里直接用--link将redis-mastercontainer连接同时命名为master。其实际效果相当于往/etc/hosts添加一条记录，映射master的域名到redis-master的IP。通过这种方式，就不需要手工的添加master的IP，docker在启动的时候会自动添加。

  # docker run -it --name redis-slave1 --link redis-master:master -v `pwd`/slave1:/data redis /bin/bash
  root@cef73ae816be:/data# cat /etc/hosts
  172.17.0.3      cef73ae816be
  127.0.0.1       localhost
  ::1     localhost ip6-localhost ip6-loopback
  fe00::0 ip6-localnet
  ff00::0 ip6-mcastprefix
  ff02::1 ip6-allnodes
  ff02::2 ip6-allrouters
  172.17.0.2      master 3d187b223f56 redis-master
  

  可以看出，--link实际上在/etc/hosts下添加了一条新的映射，分别把redis-master的别名master、container ID以及container name映射到master的IP。

  172.17.0.2      master 3d187b223f56 redis-master
  

  如果没有错误，那么上面在master中设置的条目应该可以查询到：

  root@cef73ae816be:/data# redis-cli
  127.0.0.1:6379> get redis_app
  "Hello redis app!"
  

• 启动redis-slave2
  与redis-slave1同样的方式启动redis-slave2

  # docker run -it --name redis-slave2 --link redis-master:master -v `pwd`/slave2:/data redis /bin/bash
  root@1f22e9e15e8b:/data# cat /etc/hosts
  172.17.0.4      1f22e9e15e8b
  127.0.0.1       localhost
  ::1     localhost ip6-localhost ip6-loopback
  fe00::0 ip6-localnet
  ff00::0 ip6-mcastprefix
  ff02::1 ip6-allnodes
  ff02::2 ip6-allrouters
  172.17.0.2      master 3d187b223f56 redis-master
  

  如果没有错误，那么上面在master中设置的条目应该可以查询到：

  root@cef73ae816be:/data# redis-cli
  127.0.0.1:6379> get redis_app
  "Hello redis app!"
  

• 启动app1
  app1需要连接到redis服务，因此需要把redis-mastercontainer连起来。同时为其创建app目录，由于app1跟app2共享同一个Django项目，这里就不再单独为他们创建各自的目录。

  # mkdir app
  # docker run -it --name app1 --link redis-master:redis -v `pwd`/app/:/data django /bin/bash
  root@7e6e49321993:/#
  

配置

配置redis

• 获取redis初始配置

  本文采用的版本为3.2.0, 可通过如下方式获取

  # wget https://raw.githubusercontent.com/antirez/redis/3.2.0/redis.conf
  

• 配置redis-master

  拷贝redis.conf到master目录.

  # cp redis.conf master/
  

  编辑改配置文件。默认里面有非常多的配置选项，这里只需要关注几个，并改成如下:

  bind 0.0.0.0
  protected-mode yes
  daemonize yes
  logfile /var/log/redis.log
  

  由于已经将./master挂载到container的/data目录，因此本地的改动在container里面也是可见的。

• 配置redis-slave1

  拷贝redis.conf到slave1目录.

  # cp redis.conf slave1/
  

  编辑改配置文件。默认里面有非常多的配置选项，这里只需要关注几个，并改成如下:

  bind 0.0.0.0
  protected-mode yes
  daemonize yes
  logfile /var/log/redis.log
  slaveof master 6379
  

  最后一项slaveof将slave1设置为master的slave。同样，由于已经将./slave1挂载到container的/data目录，因此本地的改动在container里面也是可见的。

• 配置redis-slave2

  配置方式与redis-slave1一致，因此，直接拷贝slave1/redis.conf到slave2目录.

  # cp slave1/redis.conf slave2/
  

配置Django App

• 配置app1

  首先需要创建Django项目,这需要登录到app1系统中才能够调用Django命令来创建。

  # docker attach app1
  root@7e6e49321993:/# cd /data
  root@7e6e49321993:/# django-admin startproject redisapp
  root@4b8240acb25a:/data# ls
  redisapp
  root@4b8240acb25a:/data# cd redisapp/
  root@4b8240acb25a:/data/redisapp# ls
  manage.py  redisapp
  

  接下来需要编辑Django代码以支持本案例中一个简单的API：/query/，此API将获取redis中的key为redis_app的值（请注意，该值在上面启动redis的时候已经设置好了），并将结果返回给浏览器。由于container中大量的linux工具都没有，因此需要到主机上去编辑。app1container将app目录挂载进去了，因此在container中的创建的Django项目实际上在app目录下也是可见的。

  • 安卓redis client

    由于django app需要访问redis数据库，因此需要先安装redis client

    root@7e6e49321993:/data/redisapp# pip install redis
    Collecting redis
      Downloading redis-2.10.5-py2.py3-none-any.whl (60kB)
          100% |████████████████████████████████| 61kB 123kB/s
          Installing collected packages: redis
          Successfully installed redis-2.10.5
    

  • 编辑views.py文件

    # vim app/redisapp/redisapp/views.py
    

    初始状态，views.py文件并不存在，添加并编辑，内容如下：

    from django.http import HttpResponse
    import socket
    import redis
    
    
    def query(request):
        r = redis.StrictRedis(host='redis', port=6379, db=0)
        value = r.get('redis_app')
        return HttpResponse('hello world from ' + socket.gethostname() + ', with value: ' + str(value))
    

  • 编辑urls.py文件

    # vim app/redisapp/redisapp/views.py
    

    编辑内容如下，只要是添加views.py中定义的view函数跟url的对应：

    from django.conf.urls import url
    from django.contrib import admin
    
    from redisapp.views import *
    
    urlpatterns = [
        url(r'^admin/', admin.site.urls),
            url(r'^query/', query),
            ]
    

  • 编辑settings.py文件

    # vim app/redisapp/redisapp/settings.py
    

    主要是讲默认生成的redisapp添加到INSTALLED_APPS中，添加完后应该如下：

    INSTALLED_APPS = [
        'django.contrib.admin',
        'django.contrib.auth',
        'django.contrib.contenttypes',
        'django.contrib.sessions',
        'django.contrib.messages',
        'django.contrib.staticfiles',
        'redisapp'
    ]
    

  • 初始化数据库

    在启动django程序之前，必须初始化数据库。默认情况下，采用的sqlite数据库。

    root@2298dd360bbd:/data/redisapp# python manage.py migrate
    Operations to perform:
      Apply all migrations: admin, contenttypes, sessions, auth
    Running migrations:
      Rendering model states... DONE
      Applying contenttypes.0001_initial... OK
      Applying auth.0001_initial... OK
      Applying admin.0001_initial... OK
      Applying admin.0002_logentry_remove_auto_add... OK
      Applying contenttypes.0002_remove_content_type_name... OK
      Applying auth.0002_alter_permission_name_max_length... OK
      Applying auth.0003_alter_user_email_max_length... OK
      Applying auth.0004_alter_user_username_opts... OK
      Applying auth.0005_alter_user_last_login_null... OK
      Applying auth.0006_require_contenttypes_0002... OK
      Applying auth.0007_alter_validators_add_error_messages... OK
      Applying sessions.0001_initial... OK
    

  至此，app1已经全部配置并初始化完毕。

• 配置app2

  app2与app1共享同一个Django项目，因此不需要为app2做任何特别的配置。

• 配置haproxy

  haproxy依赖于它的配置文件，在配置文件中必须把app1跟app2都加进去，这样haproxy就可以为他们做load balance了。

  # vim haproxy/haproxy.cfg
  

  编辑内容如下：

  global
    maxconn 50000
    daemon
    pidfile /var/run/haproxy.pid
    log   127.0.0.1       local0
    nbproc 4
    #debug
  
  defaults
    mode http
    balance roundrobin
    maxconn 25000
    option httplog
    option abortonclose
    option httpclose
    option forwardfor
    option redispatch
    option redispatch
  
    retries 3
  
    timeout client  30s
    timeout connect 30s
    timeout server  30s
  
  
  listen redis_proxy
    bind :6301
    mode http
    stats enable
    stats uri /stats
    log   127.0.0.1       local0 debug
    server app1 app1:8001 check inter 2000 rise 2 fall 5
    server app2 app2:8002 check inter 2000 rise 2 fall 5
  

  如果需要调试，可以吧global中的debug打开。特别注意的是关于app1跟app2的配置，必须跟他们启动的端口保持一致。因为在前面已经通过--link将app以及app2连接进来，因此在写address:port时候可以直接使用app1跟app2。

启动services

启动redis service

• 启动redis-master service

  • attach redis-master container

    # docker start redis-master
    redis-master
    # docker attach redis-master
    root@3d187b223f56:/data#
    

  • 启动service

    root@3d187b223f56:/data# redis-server redis.conf
    root@3d187b223f56:/data# redis-cli
    127.0.0.1:6379> get redis_app
    "Hello redis app!"
    

• 启动redis-slave1 service

  • attach redis-slave1 container

    # docker start redis-slave1
    redis-slave1
    root@neil-centos1:hademo# docker attach redis-slave1
    root@cef73ae816be:/data# redis-cli
    

  • 启动service

    root@cef73ae816be:/data# redis-server redis.conf
    root@cef73ae816be:/data# redis-cli
    127.0.0.1:6379> get redis_app
    "Hello redis app!"
    

• 启动redis-slave2 service

  与启动redis-slave1 service一样，这里不再赘述。

启动app service

• 启动app1 service

  • attach app1 container

    # docker start app1
    app1
    root@neil-centos1:hademo# docker attach app1
    root@7e6e49321993:/#
    

  • 启动service

    root@7e6e49321993:/data# cd redisapp/
    root@7e6e49321993:/data# python manage.py runserver 0.0.0.0:8001
    Performing system checks...
    
    System check identified no issues (0 silenced).
    
    
    May 16, 2016 - 12:51:39
    Django version 1.9.6, using settings 'redisapp.settings'
    Starting development server at http://0.0.0.0:8001/
    Quit the server with CONTROL-C.
    
    

• 启动app2 service

  • attach app2 container

     docker start app2
     app2
     # docker attach app2
     root@13d9f084c18b:/#
    

  • 启动service

    root@13d9f084c18b:/data# cd redisapp/
    root@13d9f084c18b:/data/redisapp# python manage.py runserver 0.0.0.0:8002
    Performing system checks...
    
    System check identified no issues (0 silenced).
    May 16, 2016 - 12:56:08
    Django version 1.9.6, using settings 'redisapp.settings'
    Starting development server at http://0.0.0.0:8002/
    Quit the server with CONTROL-C.
    
    

启动haproxy service

• attach haproxy container

  # docker start haproxy
  haproxy
  # docker attach haproxy
  root@7e0f805cd85c:/#
  

• 启动service

  root@7e0f805cd85c:/data# haproxy -f haproxy.cfg
  [WARNING] 136/130034 (6) : Proxy 'redis_proxy': in multi-process mode, stats will be limited to process assigned to the current request.
  root@7e0f805cd85c:/data#
  

至此，所有的service已经成功启动。可以通过uri http://<host ip>:6031/query/访问本案例中web service。还可以通过http://<host ip>:6031/stats来查询haproxy的统计信息。

结语

本文中所涉及的配置以及代码可以在这个github repo找到: https://github.com/keysaim/demos/tree/master/docker-redis-django。此外，还可以访问博主的个人博客：https://keysaim.github.io。