zookeeper与kafka基础集群搭建记录

一、zookeeper

1. 下载

2. 安装

(1)简单单机安装脚本

拿着压缩包一次安装成功,没什么意外,贴上安装指令。

#!/bin/bash
tar -zxvf apache-zookeeper-3.7.0-bin.tar.gz
mv apache-zookeeper-3.7.0-bin /usr/local/zookeeper
rm -rf apache-zookeeper-3.7.0-bin.tar.gz
mkdir -p /var/lib/zoopkeeper
cat > /usr/local/zookeeper/conf/zoo.cfg << EOF
tickTime=2000
dataDir=/var/lib/zookeeper
clientPort=2181
EOF

启动:/usr/local/zookeeper/bin/zkServer.sh start
状态:/usr/local/zookeeper/bin/zkServer.sh status
停止:/usr/local/zookeeper/bin/zkServer.sh stop

(2)集群配置

vim /usr/local/zookeeper/conf/zoo.cfg

tickTime=2000
dataDir=/var/lib/zookeeper
clientPort=2181
initLimit=20
syncLimit=5
server.1=0.0.0.0:2888:3888
server.2=192.168.10.152:2888:3888
server.3=192.168.10.153:2888:3888

参数解释:

  1. tickTime:CS通信心跳时间。
  2. initLimit:集群中的follower服务器(F)与leader服务器(L)之间初连接时能容忍的最多心跳数(tickTime的数量)。
  3. syncLimit:集群中flower服务器(F)跟leader(L)服务器之间的请求和答应最多能容忍的心跳数。
  4. dataDir:该属性对应的目录是用来存放myid信息跟一些版本,日志,跟服务器唯一的ID信息等。
  5. clientPort:客户端连接的接口,客户端连接zookeeper服务器的端口,zookeeper会监听这个端口,接收客户端的请求访问!这个端口默认是2181。
  6. service.N:service.N =A:B:C。
    1. N:服务器编号,即后面会配置的一个myid文件内的值。
    2. A:集群内其他机器可ping通的一个本机地址。
    3. B:Flower 跟 Leader的通信端口,简称服务端内部通信的端口(默认2888)。
    4. C:选举端口(默认是3888)。

单机改为集群有两个注意点,

  • zoo.cfg中本机的地址(A部分)更改为0.0.0.0。
  • 在dataDir目录下创建myid的文件,里面填入本机地址对应的服务器编号(N部分)。

所有集群机器配置修改完毕后,正常启动即可。
所有机器启动zookeeper完毕后,使用查看状态命令:

Leader状态

/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /usr/local/zookeeper/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost. Client SSL: false.
Mode: leader

follower状态

/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /usr/local/zookeeper/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost. Client SSL: false.
Mode: follower

二、kafka

1. 下载

2. 安装

为了在server.properties中的listeners项与zookeeper.connect项填入主机名能找到对应的机器。在所有集群机器增加hosts表。以下使用我集群主机名来进行配置示例。

以你的主机名和ip地址来替换,追加到hosts下。
vim /etc/hosts,追加

192.168.10.151 centos7-1
192.168.10.152 centos7-2
192.168.10.153 centos7-3

快速安装

tar -zxvf kafka_2.13-3.0.0.tgz
mv kafka_2.13-3.0.0 /usr/local/kafka
mkdir /tmp/kafka-logs
rm -rf kafka_2.13-3.0.0.tgz
vim /usr/local/kafka/config/server.properties

需要修改的参数解释:

  1. broker.id:每个broker的唯一标识符,不可重复,默认为0。
  2. listeners:套接字服务器侦听的地址,修改为PLAINTEXT://centos7-1:9092
  3. zookeeper.connect:zookeeper地址,使用主机名:端口配置,集群用逗号分隔。

所以在centos7-N机器中,可以应用以下配置(N为数字,自增变化)

broker.id=1
listeners=PLAINTEXT://centos7-N:9092
zookeeper.connect=centos7-1:2181,centos7-2:2181,centos7-3:2181

启动
/usr/local/kafka/bin/kafka-server-start.sh -daemon /usr/local/kafka/config/server.propertie

创建topic测试
/usr/local/kafka/bin/kafka-topics.sh --create --bootstrap-server centos7-1:9092 --replication-factor 1 --partitions 1 --topic test

查看所有topic
/usr/local/kafka/bin/kafka-topics.sh --list --bootstrap-server centos7-1:9092

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,657评论 6 505
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,889评论 3 394
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,057评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,509评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,562评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,443评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,251评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,129评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,561评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,779评论 3 335
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,902评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,621评论 5 345
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,220评论 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,838评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,971评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,025评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,843评论 2 354

推荐阅读更多精彩内容