linux搭建Kafka集群

1,准备环境

  1. linux服务器三台:192.168.2.129;192.168.2.173;192.158.2.185;保证三台服务器能互相通信
  2. jdk:我用的版本是1.8_241
  3. kafka安装包:我用的版本,kafka_2.13-2.7.0.tgz

2,解压kafka安装包

  将安装包放到/usr/local 目录下,解压:

tar -zxvf kafka_2.13-2.7.0.tgz 

  因为新版本的kafka自带有zookeeper,所以不需要单独安装zookeeper

3,配置192.168.2.129的zookeeper

  在/usr/local/kafka_2.13-2.7.0下新建zookeeper文件夹

  在/usr/local/kafka_2.13-2.7.0下新建log/zookeeper文件夹

  编辑/usr/local/kafka_2.13-2.7.0/config/zookeeper.properties文件    

  

  配置dataDir 和dataLogDir

  注释maxClientCnxns

  增加如下配置(根据自己的ip来写)

tickTime=2000
initLimit=10
syncLimit=5

server.0=192.168.2.129:2888:3888
server.1=192.168.2.173:2888:3888
server.2=192.168.2.185:2888:3888

  在/usr/local/kafka_2.13-2.7.0/zookeeper文件夹下创建myid文件

vi myid

  输入0保存即可,这里的0对应着server.0;后面配置另外两台机器是分别写入1和2

 4,配置192.168.2.129的kafka

  在/usr/local/kafka_2.13-2.7.0/log/目录下创建kafka文件夹

  编辑/usr/local/kafka_2.13-2.7.0/config/server.properties文件  

  

 

   配置红框中5项内容,其中broker.id=0对应着zookeeper的server.0;相应的,后面配置另外两台机器时的值为1和2

 5,使用同样的方法配置192.168.2.173和192.168.2.185机器上的zookeeper和kafka

  注意zookeeper的myid和kafka的broker.id

 6,启动三台机器上的kafak。每台机器上都是先启动zookeeper在启动kafak 

  在/usr/local/kafka_2.13-2.7.0目录下执行命令:

  zoopeeper:

./bin/zookeeper-server-start.sh ./config/zookeeper.properties

  kafka:

./bin/kafka-server-start.sh ./config/server.properties

 7,关于启动时报错问题

    因为我们一台一台启动,先启动的会报错,等全部启动后就不报错了。

原文地址:https://www.cnblogs.com/bigfaceWei/p/15393971.html