日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Storm 04_Storm单机模式搭建完全分布式安装部署集群drpc

發布時間:2024/2/28 编程问答 25 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Storm 04_Storm单机模式搭建完全分布式安装部署集群drpc 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

一、環境要求
JDK 1.6+
java -version
Python 2.6.6+
python -V

ZooKeeper3.4.5+
storm 0.9.4+

--------------------------------------------------------------------
二、單機模式
上傳解壓
$ tar xf apache-storm-0.9.4.tar.gz?
$ cd apache-storm-0.9.4

$ storm安裝目錄下創建log: ?mkdir logs
$ ./bin/storm --help
下面分別啟動ZooKeeper、Nimbus、UI、supervisor、logviewer
$ ./bin/storm dev-zookeeper >> ./logs/zk.out 2>&1 &
$ ./bin/storm nimbus >> ./logs/nimbus.out 2>&1 &
$ ./bin/storm ui >> ./logs/ui.out 2>&1 &
$ ./bin/storm supervisor >> ./logs/supervisor.out 2>&1 &
$ ./bin/storm logviewer >> ./logs/logviewer.out 2>&1 &
需要等一會兒
$ jps
6966 Jps
6684 logviewer
6680 dev_zookeeper
6681 nimbus
6682 core
6683 supervisor


http://node01:8080
提交任務到Storm集群當中運行:
$ ./bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.4.jar storm.starter.WordCountTopology wordcount
$ ./bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.4.jar storm.starter.WordCountTopology test

-------------------------------------------------------------------------------------------

三、完全分布式安裝部署
各節點分配:
? ? ? ? ?Nimbus ? ?Supervisor ? Zookeeper
node1 ? ? ?1 ? ? ? ? ? ? ? ? ? ? ? 1
node2 ? ? ? ? ? ? ? ? 1 ? ? ? ? ? ?1
node3 ? ? ? ? ? ? ? ? 1 ? ? ? ? ? ?1

node1作為nimbus,
開始配置
$ vim conf/storm.yaml
storm.zookeeper.servers:
? - "node1"
? - "node2"
? - "node3"

storm.local.dir: "/tmp/storm"

nimbus.host: "node1"

supervisor.slots.ports:
? ? - 6700
? ? - 6701
? ? - 6702
? ? - 6703


在storm目錄中創建logs目錄
$ mkdir logs

(分發)集群其他服務器

啟動ZooKeeper集群

node1上啟動Nimbus
$ ./bin/storm nimbus >> ./logs/nimbus.out 2>&1 &
$ tail -f logs/nimbus.log
$ ./bin/storm ui >> ./logs/ui.out 2>&1 &
$ tail -f logs/ui.log

節點node2和node3啟動supervisor,按照配置,每啟動一個supervisor就有了4個slots
$ ./bin/storm supervisor >> ./logs/supervisor.out 2>&1 &
$ tail -f logs/supervisor.log
(當然node1也可以啟動supervisor)

http://node1:8080/
提交任務到Storm集群當中運行:
$ ./bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.4.jar storm.starter.WordCountTopology test


環境變量可以配置也可以不配置
export STORM_HOME=/opt/storm
export PATH=$PATH:$STORM_HOME/bin


觀察關閉一個supervisor后,nimbus的重新調度
再次啟動一個新的supervisor后,觀察,并rebalance

集群drpc
---------------------------------------------------
修改
$ vi conf/storm.yaml
drpc.servers:
?? ?- "node06"

分發配置storm.yaml文件給其他節點

啟動zk
主節點啟動 nimbus,supervisor,drpc
從啟動 supervisor

總結

以上是生活随笔為你收集整理的Storm 04_Storm单机模式搭建完全分布式安装部署集群drpc的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。