Spark Streaming(四)kafka搭建(单节点,单broker)
下載Kafka
我使用的版本是kafka_2.11-2.0.1.tgz
解壓:tar -xvf kafka_2.11-2.0.1.tgz -C ~/app/
添加至系統環境變量中:
配置Kafka
查看并修改config下面的server.properties:
# 相當于存放數據的容器 broker.id=0 log.dirs=/home/iie4bu/app/tmp/kafka-logs zookeeper.connect=localhost:2181啟動kafka
一個server相當于一個broker
使用jps -m查看后臺進程:
創建Topic(指定zookeeper)
創建Topic時需要指定zookeeper的地址
~/app/kafka_2.11-2.0.1/bin$ ./kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
查看所有topic(指定zookeeper)
./kafka-topics.sh --list --zookeeper localhost:2181
查看所有topic詳細信息(指定zookeeper)
kafka-topics.sh --describe --zookeeper localhost:2181
查看某個topic詳細信息(指定zookeeper)
創建生產者(指定broker-list)
./kafka-console-producer.sh --broker-list localhost:9092 --topic test
因為要發送消息,所以需要與broker打交道,而不需要與zookeeper打交道,默認的broker監聽的是9092端口
創建消費者(指定bootstrap-server)
./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning
如果帶著參數--from-beginning則表示從頭開始消費,如果不帶則從當前開始消費
總結
以上是生活随笔為你收集整理的Spark Streaming(四)kafka搭建(单节点,单broker)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 旃檀功德佛怎么读(佛教佛祖排名一览表)
- 下一篇: 手机插上新买的有线耳机却没声音手机插上新