jstorm 读取mysql_jstorm运维经验转载
##轉(zhuǎn)之jstorm github 官方資料
1:啟動(dòng)supervisor或nimbus最好是以后臺(tái)方式啟動(dòng), 避免終端退出時(shí)向jstorm發(fā)送信號(hào),導(dǎo)致jstorm莫名其妙的退出
nohup jstorm supervisor >/dev/null 2>&1 &
2:推薦使用admin用戶啟動(dòng)所有的程序, 尤其是不要用root用戶啟動(dòng)web ui,
3:在安裝目錄下,建議使用jstorm-current鏈接, 比如當(dāng)前使用版本是jstorm 0.9.4, 則創(chuàng)建鏈接指向jstorm-0.9.4, 當(dāng)以后升級(jí)時(shí), 只
需要將jstorm-current鏈接指向新的jstorm版本。
ln -s jstorm-0.9.4 jstorm-current
4:將JStorm的本地目錄和日志配置到一個(gè)公共目錄下, 比如/home/admin/jstorm_data 和/home/admin/logs, 不要配置到
$JSTORM_HOME/data和$JSTORM_HOME/logs,當(dāng)升級(jí)時(shí),替換整個(gè)目錄時(shí), 容易丟失所有的本地?cái)?shù)據(jù)和日志。
5:JStorm支持環(huán)境變量JSTORM_CONF_DIR, 當(dāng)設(shè)置了該變量時(shí), 會(huì)從該目錄里讀取storm.yaml文件, 因此建議設(shè)置該變量,該變量指定的目
錄存放配置文件storm.yaml, 以后每次升級(jí)時(shí),就可以簡(jiǎn)單的替換目錄就可以了
6:建議不超過1個(gè)月,強(qiáng)制重啟一下supervisor, 因?yàn)閟upervisor是一個(gè)daemon進(jìn)程, 不停的創(chuàng)建子進(jìn)程,當(dāng)使用時(shí)間過長(zhǎng)時(shí), 文件打開的
句柄會(huì)非常多,導(dǎo)致啟動(dòng)worker的時(shí)間會(huì)變慢,因此,建議每隔一周,強(qiáng)制重啟一次supervisor
7:JStorm web ui推薦使用apache tomcat 7.x, 默認(rèn)的端口是8080, 如果需要將80 端口重定向到8080時(shí), 可以用root執(zhí)行命令:
iptables -t nat -A PREROUTING -p tcp --dport 80 -j REDIRECT --to-port 8080
8:Jvm GC 需要使用CMS GC 方式, JStorm默認(rèn)已經(jīng)設(shè)置, 使用Storm的朋友需要類似的設(shè)置,
worker.childopts: "-Xms1g -Xmx1g -Xmn378m -XX:SurvivorRatio=2 -XX:+UseConcMarkSweepGC -XX:+UseCMSInitiatingOccupancyOnly
-XX:CMSInitiatingOccupancyFraction=65"
9:對(duì)于一些重要的應(yīng)用,可以對(duì)大集群進(jìn)行分組, 修改配置文件的 “storm.zookeeper.root” 和 “nimbus.host”
10:Zeromq推薦2.1.7
64位java 就需要使用64位zeromq
在64位OS上使用32位java, 編譯zeromq 增加flag –m32
11:對(duì)于應(yīng)用使用ZK較頻繁的,需要將JStorm的ZK 和應(yīng)用的ZK 隔離起來,不混在一起使用
nimbus節(jié)點(diǎn)上建議不運(yùn)行supervisor, 并建議把nimbus放置到ZK 所在的機(jī)器上運(yùn)行
推薦slot數(shù)為 ”CPU 核 - 1“, 假設(shè)24核CPU, 則slot為23
12:配置cronjob,定時(shí)檢查nimbus和supervisor,一旦進(jìn)程死去,自動(dòng)重啟
13:ZK 的maxClientCnxns=500
14:Linux對(duì)外連接端口數(shù)限制,TCP client對(duì)外發(fā)起連接數(shù)達(dá)到28000左右時(shí),就開始大量拋異常,需要
# echo "10000 65535" > /proc/sys/net/ipv4/ip_local_port_range
15:
閱讀(958) | 評(píng)論(0) | 轉(zhuǎn)發(fā)(0) |
總結(jié)
以上是生活随笔為你收集整理的jstorm 读取mysql_jstorm运维经验转载的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Linux 调度器内幕
- 下一篇: linux cmake编译源码,linu