Storm 04_Storm单机模式搭建完全分布式安装部署集群drpc
一、環境要求
JDK 1.6+
java -version
Python 2.6.6+
python -V
ZooKeeper3.4.5+
storm 0.9.4+
--------------------------------------------------------------------
二、單機模式
上傳解壓
$ tar xf apache-storm-0.9.4.tar.gz?
$ cd apache-storm-0.9.4
$ storm安裝目錄下創建log: ?mkdir logs
$ ./bin/storm --help
下面分別啟動ZooKeeper、Nimbus、UI、supervisor、logviewer
$ ./bin/storm dev-zookeeper >> ./logs/zk.out 2>&1 &
$ ./bin/storm nimbus >> ./logs/nimbus.out 2>&1 &
$ ./bin/storm ui >> ./logs/ui.out 2>&1 &
$ ./bin/storm supervisor >> ./logs/supervisor.out 2>&1 &
$ ./bin/storm logviewer >> ./logs/logviewer.out 2>&1 &
需要等一會兒
$ jps
6966 Jps
6684 logviewer
6680 dev_zookeeper
6681 nimbus
6682 core
6683 supervisor
http://node01:8080
提交任務到Storm集群當中運行:
$ ./bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.4.jar storm.starter.WordCountTopology wordcount
$ ./bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.4.jar storm.starter.WordCountTopology test
-------------------------------------------------------------------------------------------
三、完全分布式安裝部署
各節點分配:
? ? ? ? ?Nimbus ? ?Supervisor ? Zookeeper
node1 ? ? ?1 ? ? ? ? ? ? ? ? ? ? ? 1
node2 ? ? ? ? ? ? ? ? 1 ? ? ? ? ? ?1
node3 ? ? ? ? ? ? ? ? 1 ? ? ? ? ? ?1
node1作為nimbus,
開始配置
$ vim conf/storm.yaml
storm.zookeeper.servers:
? - "node1"
? - "node2"
? - "node3"
storm.local.dir: "/tmp/storm"
nimbus.host: "node1"
supervisor.slots.ports:
? ? - 6700
? ? - 6701
? ? - 6702
? ? - 6703
在storm目錄中創建logs目錄
$ mkdir logs
(分發)集群其他服務器
啟動ZooKeeper集群
node1上啟動Nimbus
$ ./bin/storm nimbus >> ./logs/nimbus.out 2>&1 &
$ tail -f logs/nimbus.log
$ ./bin/storm ui >> ./logs/ui.out 2>&1 &
$ tail -f logs/ui.log
節點node2和node3啟動supervisor,按照配置,每啟動一個supervisor就有了4個slots
$ ./bin/storm supervisor >> ./logs/supervisor.out 2>&1 &
$ tail -f logs/supervisor.log
(當然node1也可以啟動supervisor)
http://node1:8080/
提交任務到Storm集群當中運行:
$ ./bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.4.jar storm.starter.WordCountTopology test
環境變量可以配置也可以不配置
export STORM_HOME=/opt/storm
export PATH=$PATH:$STORM_HOME/bin
觀察關閉一個supervisor后,nimbus的重新調度
再次啟動一個新的supervisor后,觀察,并rebalance
集群drpc
---------------------------------------------------
修改
$ vi conf/storm.yaml
drpc.servers:
?? ?- "node06"
分發配置storm.yaml文件給其他節點
啟動zk
主節點啟動 nimbus,supervisor,drpc
從啟動 supervisor
總結
以上是生活随笔為你收集整理的Storm 04_Storm单机模式搭建完全分布式安装部署集群drpc的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Storm 03_Storm 架构设计
- 下一篇: Storm 05_Storm并发机制通信