kafka安装

kafka

Broker:集群的某个服务器
Topic:每条发布到Kafka集群的消息都有一个类别(物理上分开存储,逻辑上只需要指定topic消息而不需要关心存储在哪个broker上)
Partition:物理上的概念,每个topic包含一个或者多个Partition
Producer:消息发布者
Consumer:消息消费者
Consumer Group:消费者属于的特定的组,不指定,则属于默认的

message length : 4 bytes (value: 1+4+n)
"magic" value : 1 byte
crc : 4 bytes
payload : n bytes

Partition对应物理上一个文件夹。存放消息和索引文件。分成多个segment,每个segment以该segment第一条消息的offset命名并以“.kafka”为后缀。
在发送一条消息时,可以指定这条消息的key,Producer根据这个key和Partition机制来判断应该将这条消息发送到哪个Parition。

1.brew install kafka

To have launchd start kafka now and restart at login:
brew services start kafka
Or, if you don't want/need a background service you can just run:
zookeeper-server-start /usr/local/etc/kafka/zookeeper.properties & kafka-server-start /usr/local/etc/kafka/server.properties

2.kafka-server-start /usr/local/etc/kafka/server.properties

3.bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic wyc

4.kafka-console-producer --broker-list localhost:9092 --topic wyc

5.kafka-console-consumer --zookeeper localhost:2181 --topic wyc --from-beginning

原文地址:https://www.cnblogs.com/mentalidade/p/7227506.html