一、簡介

為了簡化開發(fā)者和服務(wù)工程師維護(hù)Kafka集群的工作，yahoo構(gòu)建了一個叫做Kafka管理器的基于Web工具，叫做 Kafka Manager（已改名為 cmak）。

這個管理工具可以很容易地發(fā)現(xiàn)分布在集群中的哪些topic分布不均勻，或者是分區(qū)在整個集群分布不均勻的的情況。

它支持管理多個集群、選擇副本、副本重新分配以及創(chuàng)建Topic。同時，這個管理工具也是一個非常好的可以快速瀏覽這個集群的工具，有如下功能：

1.管理多個kafka集群
2.便捷的檢查kafka集群狀態(tài)(topics,brokers,備份分布情況,分區(qū)分布情況)
3.選擇你要運(yùn)行的副本
4.基于當(dāng)前分區(qū)狀況進(jìn)行
5.可以選擇topic配置并創(chuàng)建topic(0.8.1.1和0.8.2的配置不同)
6.刪除topic(只支持0.8.2以上的版本并且要在broker配置中設(shè)置delete.topic.enable=true)
7.Topic list會指明哪些topic被刪除（在0.8.2以上版本適用）
8.為已存在的topic增加分區(qū)
9.為已存在的topic更新配置
10.在多個topic上批量重分區(qū)
11.在多個topic上批量重分區(qū)(可選partition broker位置)

kafka-manager 項(xiàng)目地址：https://github.com/yahoo/kafka-manager

?二、環(huán)境

? ? ? ? 注意：cmak環(huán)境要求JDK版本為11

1、jdk java version "11.0.15.1"2、kafka集群信息 服務(wù)器： 192.168.10.6:9092 192.168.10.7:9093 192.168.10.8:9094 軟件： kafka_2.11-2.1.1 zookeeper-3.4.14

三、下載安裝

1. 項(xiàng)目下載地址：https://github.com/yahoo/CMAK/releases

2. 下載zip，并上傳至linux，解壓

3. 進(jìn)入目錄，3.0.0.5已無需編譯

?4. 配置文件（conf/application.conf）

?修改 application.conf
將?kafka-manager.zkhosts="kafka-manager-zookeeper:2181"?中的?zookeeper?地址換成自己安裝的，原配置的?kafka-manager.zkhosts ，cmak.zkhosts注釋，參考下面：

#play.i18n.langs=["en"] play.i18n.langs=["ch"]play.http.requestHandler = "play.http.DefaultHttpRequestHandler" play.http.context = "/" play.application.loader=loader.KafkaManagerLoader# Settings prefixed with 'kafka-manager.' will be deprecated, use 'cmak.' instead. # https://github.com/yahoo/CMAK/issues/713 #kafka-manager.zkhosts="kafka-manager-zookeeper:2181" #kafka-manager.zkhosts=${?ZK_HOSTS} kafka-manager.zkhosts="192.168.10.9:2181" #cmak.zkhosts="kafka-manager-zookeeper:2181" #cmak.zkhosts=${?ZK_HOSTS} cmak.zkhosts="192.168.10.9:2181"

5. 開通端口

（1）各個宿主機(jī)（zookeeper 開通端口/或防火墻，保證cmak 服務(wù)器可訪問對應(yīng)端口）
（2）cmak 服務(wù)器開通頁面訪問端口（默認(rèn)9000，若有使用沖突，可啟動配置其他端口）

6. 啟動

確保自己本地的ZK已經(jīng)啟動了之后，我們來啟動Kafka-manager。

kafka-manager 默認(rèn)的端口是9000。

可通過 -Dhttp.port，指定端口; -Dconfig.file=conf/application.conf指定配置文件:

臨時啟動：
bin/kafka-manager -Dhttp.port=10001

后臺啟動（最好使用腳本，存儲pid）：
nohup bin/kafka-manager -Dhttp.port=10001 &

使用ip地址：端口訪問測試

?啟動成功！

四、測試CMAK

點(diǎn)擊【Cluster】>【Add Cluster】打開如下添加集群的配置界面：

輸入集群的名字（如Kafka-Cluster-1）和 Zookeeper 服務(wù)器地址（如localhost:2181），選擇最接近的Kafka版本（如2.2.0）

注意：如果沒有在 Kafka 中配置過 JMX_PORT，千萬不要選擇第一個復(fù)選框。
Enable JMX Polling
如果選擇了該復(fù)選框，Kafka-manager 可能會無法啟動。

?基本寫這幾個就行了

其他broker的配置可以根據(jù)自己需要進(jìn)行配置，默認(rèn)情況下，點(diǎn)擊【保存】時，會提示幾個默認(rèn)值為1的配置錯誤，需要配置為>=2的值。默認(rèn)配置如下

?新建完成后，運(yùn)行界面如下

?主題列表

?

?broker

?

問題

配置保存失敗：kafka manager添加集群出現(xiàn)錯誤KeeperErrorCode

Yikes! KeeperErrorCode = Unimplemented for /kafka-manager/mutex Try again.

解決辦法

登錄到zookeeper客戶端，手動創(chuàng)建/ kafka-manager/ mutex / locks和/ kafka-manager / mutex / leases節(jié)點(diǎn)

//登錄到zookeeper客戶端 [root@kf-cache-61 ~]# /usr/local/kafka/zookeeper-3.4.14/bin/zkCli.sh//手動創(chuàng)建/ kafka-manager / mutex / locks和/ kafka-manager / mutex / leases節(jié)點(diǎn) [zk: localhost:2181(CONNECTED) 0] ls /kafka-manager [configs, deleteClusters, clusters] [zk: localhost:2181(CONNECTED) 1] create /kafka-manager/mutex "" Created /kafka-manager/mutex [zk: localhost:2181(CONNECTED) 2] create /kafka-manager/mutex/locks "" Created /kafka-manager/mutex/locks [zk: localhost:2181(CONNECTED) 3] create /kafka-manager/mutex/leases "" Created /kafka-manager/mutex/leases [zk: localhost:2181(CONNECTED) 4]

參考文檔：Kafka可視化管理工具kafka-manager部署安裝和使用-已更名為CMAK_沮喪的南瓜的博客-CSDN博客_kafka manager
kafka manager添加集群出現(xiàn)錯誤KeeperErrorCode_胖琦的博客-CSDN博客

五、使用

1、新建主題

其他參數(shù)配置，不再講解

主題列表

?點(diǎn)擊【topic】下面的主題名稱，即可查看主題

?

總結(jié)

以上是生活随笔為你收集整理的Kafka可视化管理工具-CMAK（kafka-manager）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。