日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪(fǎng)問(wèn) 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 编程资源 > 编程问答 >内容正文

编程问答

nginx日志切割并使用flume-ng收集日志

發(fā)布時(shí)間:2024/9/27 编程问答 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 nginx日志切割并使用flume-ng收集日志 小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
nginx的日志文件沒(méi)有rotate功能。如果你不處理,日志文件將變得越來(lái)越大,還好我們可以寫(xiě)一個(gè)nginx日志切割腳本來(lái)自動(dòng)切割日志文件。 第一步就是重命名日志文件,不用擔(dān)心重命名后nginx找不到日志文件而丟失日志。在你未重新打開(kāi)原名字的日志文件前,nginx還是會(huì)向你重命名的文件寫(xiě)日志,linux是靠文件描述符而不是文件名定位文件。 第二步向nginx主進(jìn)程發(fā)送USR1信號(hào)。 nginx主進(jìn)程接到信號(hào)后會(huì)從配置文件中讀取日志文件名稱(chēng),重新打開(kāi)日志文件(以配置文件中的日志名稱(chēng)命名),并以工作進(jìn)程的用戶(hù)作為日志文件的所有者。 重新打開(kāi)日志文件后,nginx主進(jìn)程會(huì)關(guān)閉重名的日志文件并通知工作進(jìn)程使用新打開(kāi)的日志文件。 工作進(jìn)程立刻打開(kāi)新的日志文件并關(guān)閉重名名的日志文件。 然后你就可以處理舊的日志文件了。 nginx日志按日期自動(dòng)切割腳本如下 #nginx日志切割腳本 #!/bin/bash #設(shè)置日志文件存放目錄 logs_path="/usr/local/nginx/logs/" #設(shè)置pid文件 pid_path="/usr/local/nginx/nginx.pid" #重命名日志文件 mv ${logs_path}access.log ${logs_path}access_$(date-d"yesterday"+"%Y%m%d").log #向nginx主進(jìn)程發(fā)信號(hào)重新打開(kāi)日志 kill -USR1 `cat ${pid_path}` #以上是對(duì)日志的處理,可是重新命名后原來(lái)的那個(gè)access.log已經(jīng)不存在了,使用tail -f 時(shí)候flumeng無(wú)法再繼續(xù)收集新產(chǎn)生的日志了,這個(gè)時(shí)候我們把flume收集日志的命令改為tail -F 收集日志即可。

詳細(xì)見(jiàn) http://liyonghui160com.iteye.com/blog/2098777

保存以上腳本nginx_log.sh,設(shè)置定時(shí)執(zhí)行。

設(shè)置上面的shell腳本文件加入到定時(shí)任務(wù)中去。crontab是linux下面一個(gè)定時(shí)任務(wù)進(jìn)程。開(kāi)機(jī)此進(jìn)程會(huì)啟動(dòng),它每隔一定時(shí)間會(huì)去自己的列表中看是否有需要執(zhí)行的任務(wù)。

crontab -e

0 0 * * * /data/wwwlogs/nginx_log_division.sh

會(huì)打開(kāi)一個(gè)文件,加入上面的代碼

格式為 “分 時(shí) 日 月 星期幾 要執(zhí)行的shell文件路徑”。用*可以理解成“每”,每分鐘,每個(gè)小時(shí),每個(gè)月等等。

我設(shè)置是在凌晨0點(diǎn)0分運(yùn)行nginx_log_division.sh腳本放到flume中bin文件夾下,腳本的內(nèi)容就是重新生成一個(gè)新的日志文件。

nginx_log_division.sh代碼:

#!/bin/bash #設(shè)置日志文件存放目錄 logs_path="/usr/local/nginx/nginxlog/" #設(shè)置pid文件 pid_path="/usr/local/nginx/nginx-1.7.3/logs/nginx.pid" #日志文件 filepath=${logs_path}"access.log" # Source function library. #重命名日志文件 mv ${logs_path}access.log ${logs_path}access_$(date -d '-1 day' '+%Y-%m-%d').log #向nginx主進(jìn)程發(fā)信號(hào)重新打開(kāi)日志 kill -USR1 `cat ${pid_path}`

flumeng配置:

# A single-node Flume configuration # Name the components on this agent agent1.sources = source1 agent1.sinks = sink1 agent1.channels = channel1 # Describe/configure source1 agent1.sources.source1.type = exec agent1.sources.source1.command = tail -n +0 -F /logs/access.log agent1.sources.source1.channels = channel1 # Describe sink1 agent1.sinks.sink1.type = file_roll agent1.sinks.sink1.sink.directory=/var/log/data # Use a channel which buffers events in memory agent1.channels.channel1.type = file agent1.channels.channel1.checkpointDir=/var/checkpoint agent1.channels.channel1.dataDirs=/var/tmp agent1.channels.channel1.capacity = 1000 agent1.channels.channel1.transactionCapactiy = 100 # Bind the source and sink to the channel agent1.sources.source1.channels = channel1 agent1.sinks.sink1.channel = channel1

總結(jié)

以上是生活随笔為你收集整理的nginx日志切割并使用flume-ng收集日志的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。