日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

jstorm 读取mysql_jstorm运维经验转载

發(fā)布時(shí)間:2025/3/15 数据库 18 豆豆
生活随笔 收集整理的這篇文章主要介紹了 jstorm 读取mysql_jstorm运维经验转载 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

##轉(zhuǎn)之jstorm github 官方資料

1:啟動(dòng)supervisor或nimbus最好是以后臺(tái)方式啟動(dòng), 避免終端退出時(shí)向jstorm發(fā)送信號(hào),導(dǎo)致jstorm莫名其妙的退出

nohup jstorm supervisor >/dev/null 2>&1 &

2:推薦使用admin用戶啟動(dòng)所有的程序, 尤其是不要用root用戶啟動(dòng)web ui,

3:在安裝目錄下,建議使用jstorm-current鏈接, 比如當(dāng)前使用版本是jstorm 0.9.4, 則創(chuàng)建鏈接指向jstorm-0.9.4, 當(dāng)以后升級(jí)時(shí), 只

需要將jstorm-current鏈接指向新的jstorm版本。

ln -s jstorm-0.9.4 jstorm-current

4:將JStorm的本地目錄和日志配置到一個(gè)公共目錄下, 比如/home/admin/jstorm_data 和/home/admin/logs, 不要配置到

$JSTORM_HOME/data和$JSTORM_HOME/logs,當(dāng)升級(jí)時(shí),替換整個(gè)目錄時(shí), 容易丟失所有的本地?cái)?shù)據(jù)和日志。

5:JStorm支持環(huán)境變量JSTORM_CONF_DIR, 當(dāng)設(shè)置了該變量時(shí), 會(huì)從該目錄里讀取storm.yaml文件, 因此建議設(shè)置該變量,該變量指定的目

錄存放配置文件storm.yaml, 以后每次升級(jí)時(shí),就可以簡(jiǎn)單的替換目錄就可以了

6:建議不超過1個(gè)月,強(qiáng)制重啟一下supervisor, 因?yàn)閟upervisor是一個(gè)daemon進(jìn)程, 不停的創(chuàng)建子進(jìn)程,當(dāng)使用時(shí)間過長(zhǎng)時(shí), 文件打開的

句柄會(huì)非常多,導(dǎo)致啟動(dòng)worker的時(shí)間會(huì)變慢,因此,建議每隔一周,強(qiáng)制重啟一次supervisor

7:JStorm web ui推薦使用apache tomcat 7.x, 默認(rèn)的端口是8080, 如果需要將80 端口重定向到8080時(shí), 可以用root執(zhí)行命令:

iptables -t nat -A PREROUTING -p tcp --dport 80 -j REDIRECT --to-port 8080

8:Jvm GC 需要使用CMS GC 方式, JStorm默認(rèn)已經(jīng)設(shè)置, 使用Storm的朋友需要類似的設(shè)置,

worker.childopts: "-Xms1g -Xmx1g -Xmn378m -XX:SurvivorRatio=2 -XX:+UseConcMarkSweepGC -XX:+UseCMSInitiatingOccupancyOnly

-XX:CMSInitiatingOccupancyFraction=65"

9:對(duì)于一些重要的應(yīng)用,可以對(duì)大集群進(jìn)行分組, 修改配置文件的 “storm.zookeeper.root” 和 “nimbus.host”

10:Zeromq推薦2.1.7

64位java 就需要使用64位zeromq

在64位OS上使用32位java, 編譯zeromq 增加flag –m32

11:對(duì)于應(yīng)用使用ZK較頻繁的,需要將JStorm的ZK 和應(yīng)用的ZK 隔離起來,不混在一起使用

nimbus節(jié)點(diǎn)上建議不運(yùn)行supervisor, 并建議把nimbus放置到ZK 所在的機(jī)器上運(yùn)行

推薦slot數(shù)為 ”CPU 核 - 1“, 假設(shè)24核CPU, 則slot為23

12:配置cronjob,定時(shí)檢查nimbus和supervisor,一旦進(jìn)程死去,自動(dòng)重啟

13:ZK 的maxClientCnxns=500

14:Linux對(duì)外連接端口數(shù)限制,TCP client對(duì)外發(fā)起連接數(shù)達(dá)到28000左右時(shí),就開始大量拋異常,需要

# echo "10000 65535" > /proc/sys/net/ipv4/ip_local_port_range

15:

閱讀(958) | 評(píng)論(0) | 轉(zhuǎn)發(fā)(0) |

總結(jié)

以上是生活随笔為你收集整理的jstorm 读取mysql_jstorm运维经验转载的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。