nginx日志切割并使用flume-ng收集日志
生活随笔
收集整理的這篇文章主要介紹了
nginx日志切割并使用flume-ng收集日志
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
nginx的日志文件沒(méi)有rotate功能。如果你不處理,日志文件將變得越來(lái)越大,還好我們可以寫(xiě)一個(gè)nginx日志切割腳本來(lái)自動(dòng)切割日志文件。
第一步就是重命名日志文件,不用擔(dān)心重命名后nginx找不到日志文件而丟失日志。在你未重新打開(kāi)原名字的日志文件前,nginx還是會(huì)向你重命名的文件寫(xiě)日志,linux是靠文件描述符而不是文件名定位文件。
第二步向nginx主進(jìn)程發(fā)送USR1信號(hào)。
nginx主進(jìn)程接到信號(hào)后會(huì)從配置文件中讀取日志文件名稱(chēng),重新打開(kāi)日志文件(以配置文件中的日志名稱(chēng)命名),并以工作進(jìn)程的用戶(hù)作為日志文件的所有者。
重新打開(kāi)日志文件后,nginx主進(jìn)程會(huì)關(guān)閉重名的日志文件并通知工作進(jìn)程使用新打開(kāi)的日志文件。
工作進(jìn)程立刻打開(kāi)新的日志文件并關(guān)閉重名名的日志文件。
然后你就可以處理舊的日志文件了。
nginx日志按日期自動(dòng)切割腳本如下
#nginx日志切割腳本
#!/bin/bash
#設(shè)置日志文件存放目錄
logs_path="/usr/local/nginx/logs/"
#設(shè)置pid文件
pid_path="/usr/local/nginx/nginx.pid"
#重命名日志文件
mv ${logs_path}access.log ${logs_path}access_$(date-d"yesterday"+"%Y%m%d").log
#向nginx主進(jìn)程發(fā)信號(hào)重新打開(kāi)日志
kill -USR1 `cat ${pid_path}`
#以上是對(duì)日志的處理,可是重新命名后原來(lái)的那個(gè)access.log已經(jīng)不存在了,使用tail -f 時(shí)候flumeng無(wú)法再繼續(xù)收集新產(chǎn)生的日志了,這個(gè)時(shí)候我們把flume收集日志的命令改為tail -F 收集日志即可。
詳細(xì)見(jiàn) http://liyonghui160com.iteye.com/blog/2098777
保存以上腳本nginx_log.sh,設(shè)置定時(shí)執(zhí)行。
設(shè)置上面的shell腳本文件加入到定時(shí)任務(wù)中去。crontab是linux下面一個(gè)定時(shí)任務(wù)進(jìn)程。開(kāi)機(jī)此進(jìn)程會(huì)啟動(dòng),它每隔一定時(shí)間會(huì)去自己的列表中看是否有需要執(zhí)行的任務(wù)。
crontab -e
0 0 * * * /data/wwwlogs/nginx_log_division.sh
會(huì)打開(kāi)一個(gè)文件,加入上面的代碼
格式為 “分 時(shí) 日 月 星期幾 要執(zhí)行的shell文件路徑”。用*可以理解成“每”,每分鐘,每個(gè)小時(shí),每個(gè)月等等。
我設(shè)置是在凌晨0點(diǎn)0分運(yùn)行nginx_log_division.sh腳本放到flume中bin文件夾下,腳本的內(nèi)容就是重新生成一個(gè)新的日志文件。
nginx_log_division.sh代碼:
#!/bin/bash #設(shè)置日志文件存放目錄 logs_path="/usr/local/nginx/nginxlog/" #設(shè)置pid文件 pid_path="/usr/local/nginx/nginx-1.7.3/logs/nginx.pid" #日志文件 filepath=${logs_path}"access.log" # Source function library. #重命名日志文件 mv ${logs_path}access.log ${logs_path}access_$(date -d '-1 day' '+%Y-%m-%d').log #向nginx主進(jìn)程發(fā)信號(hào)重新打開(kāi)日志 kill -USR1 `cat ${pid_path}`flumeng配置:
# A single-node Flume configuration # Name the components on this agent agent1.sources = source1 agent1.sinks = sink1 agent1.channels = channel1 # Describe/configure source1 agent1.sources.source1.type = exec agent1.sources.source1.command = tail -n +0 -F /logs/access.log agent1.sources.source1.channels = channel1 # Describe sink1 agent1.sinks.sink1.type = file_roll agent1.sinks.sink1.sink.directory=/var/log/data # Use a channel which buffers events in memory agent1.channels.channel1.type = file agent1.channels.channel1.checkpointDir=/var/checkpoint agent1.channels.channel1.dataDirs=/var/tmp agent1.channels.channel1.capacity = 1000 agent1.channels.channel1.transactionCapactiy = 100 # Bind the source and sink to the channel agent1.sources.source1.channels = channel1 agent1.sinks.sink1.channel = channel1總結(jié)
以上是生活随笔為你收集整理的nginx日志切割并使用flume-ng收集日志的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。