日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

rsync+inotify实现服务器之间文件实时同步--转

發布時間:2025/4/5 编程问答 30 豆豆
生活随笔 收集整理的這篇文章主要介紹了 rsync+inotify实现服务器之间文件实时同步--转 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

之前做了“ssh信任與scp自動傳輸腳本”的技術文檔,此方案是作為公司里備份的方法,但在實際的運行中,由于主服務器在給備份服務器傳輸的時候,我們的主服務器需要備份的文件是實時、不停的產生的,造成不知道主服務器給備份服務器傳輸了多少文件,磁盤空間就那么大,做備份的原因:一個是為了保持文件,另外一個是解決主服務器的磁盤飽滿問題,但由于不知道備份服務器到底接收了多少文件,所以主服務器里的文件不敢刪除(如果沒有備份的情況下刪除,問題就嚴重了,我這個是政府的項目,服務器里的文件都是重要的,刪錯了就走人~~~~(>_<)~~~~ ),所以我就采用了rsync+inotify的方式來實時同時服務器之間的文件,而且傳輸的過程是加密的,比scp安全多了(即使scp采用ssh信任,用密鑰,也不是萬無一失的)。

以下是我給公司運維做的備份技術文檔,分享給大家,希望對大家有幫助。

先介紹一下rsync與inotify,都在在網上找的資料。先聲明下面的rsync與inotify介紹不是我自己寫的。

1、rsync

?與傳統的cp、tar備份方式相比,rsync具有安全性高、備份迅速、支持增量備份等優點,通過rsync可以解決對實時性要求不高的數據備份需求,例如定期的備份文件服務器數據到遠端服務器,對本地磁盤定期做數據鏡像等。
隨著應用系統規模的不斷擴大,對數據的安全性和可靠性也提出的更好的要求,rsync在高端業務系統中也逐漸暴露出了很多不足,首先,rsync同步數據時,需要掃描所有文件后進行比對,進行差量傳輸。如果文件數量達到了百萬甚至千萬量級,掃描所有文件將是非常耗時的。而且正在發生變化的往往是其中很少的一部分,這是非常低效的方式。其次,rsync不能實時的去監測、同步數據,雖然它可以通過linux守護進程的方式進行觸發同步,但是兩次觸發動作一定會有時間差,這樣就導致了服務端和客戶端數據可能出現不一致,無法在應用故障時完全的恢復數據?;谝陨显?#xff0c;rsync+inotify組合出現了!

2、inotify

?Inotify 是一種強大的、細粒度的、異步的文件系統事件監控機制,linux內核從2.6.13起,加入了Inotify支持,通過Inotify可以監控文件系統中添加、刪除,修改、移動等各種細微事件,利用這個內核接口,第三方軟件就可以監控文件系統下文件的各種變化情況,而inotify-tools就是這樣的一個第三方軟件。
在上面章節中,我們講到,rsync可以實現觸發式的文件同步,但是通過crontab守護進程方式進行觸發,同步的數據和實際數據會有差異,而inotify可以監控文件系統的各種變化,當文件有任何變動時,就觸發rsync同步,這樣剛好解決了同步數據的實時性問題。

具體大家可以參照http://www.ibm.com/developerworks/cn/linux/l-ubuntu-inotify/index.html來進行學習。

接下面我們來開始進行rsync與inotify的安裝、配置、測試。

下面是2個服務器的結構,分別為主機名、ip、狀態、內核、位數、同步的目錄,并將2臺服務器均是redhat5.4發行版本。

?

一、主服務器(server端,我這里是nginx) 其中主服務器需要安裝rsync與inotify,主服務器作為server,向備份服務器client傳輸文件 1、安裝rsync
  • [root@nginx?~]#?cd?/usr/src/ ?
  • [root@nginx?src]#?ll ?
  • total?16 ?
  • drwxr-xr-x?2?root?root?4096?Jan?26??2010?debug ?
  • drwxr-xr-x?2?root?root?4096?Jan?26??2010?kernels ?
  • [root@nginx?src]#?wget??http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz ?
  • [root@nginx?src]#?tar?zxvf?rsync-3.0.9.tar.gz ?
  • [root@nginx?src]#?cd?rsync-3.0.9 ?
  • [root@nginx?rsync-3.0.9]#?./configure?--prefix=/usr/local/rsync ?
  • [root@nginx?rsync-3.0.9]#?make ?
  • [root@nginx?rsync-3.0.9]#?make?install ?
  • 2、建立密碼認證文件
  • [root@nginx?rsync-3.0.9]#?cd?/usr/local/rsync/ ?
  • ?
  • [root@nginx?rsync]#?echo?"rsync-pwd"?>/usr/local/rsync/rsync.passwd? ?
  • ?
  • 其中rsync-pwd可以自己設置密碼,rsync.passwd名字也可以自己設置

    ?

  • [root@nginx?rsync]#?chmod?600?rsync.passwd?
  • 無論是為了安全,還是為了避免出現以下錯誤,密碼文件都需要給600權限
  • password?file?must?not?be?other-accessible ?
  • continuing?without?password?file ?
  • 3、安裝inotify
  • [root@nginx?rsync]#?cd?/usr/src/ ?
  • [root@nginx?src]#?wget?http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz ?
  • [root@nginx?src]#?tar?zxvf?inotify-tools-3.14.tar.gz ?
  • [root@nginx?src]#?cd?inotify-tools-3.14 ?
  • [root@nginx?inotify-tools-3.14]#?./configure?--prefix=/usr/local/inotify ?
  • [root@nginx?inotify-tools-3.14]#?make ?
  • [root@nginx?inotify-tools-3.14]#?make?install ?
  • 4、創建rsync復制腳本 此項功能主要是將server端的目錄/tmp里的內容,如果修改了(無論是添加、修改、刪除文件)能夠通過inotify監控到,并通過rsync實時的同步給client的/tmp里,下面是通過shell腳本實現的。
  • #!/bin/bash ?
  • host=192.168.10.221 ?
  • src=/tmp/??????? ?
  • des=web?
  • user=webuser?
  • /usr/local/inotify/bin/inotifywait?-mrq?--timefmt?'%d/%m/%y?%H:%M'?--format?'%T?%w%f%e'?-e?modify,delete,create,attrib?$src?\ ?
  • |?while?read?files ?
  • do ?
  • /usr/bin/rsync?-vzrtopg?--delete?--progress?--password-file=/usr/local/rsync/rsync.passwd?$src?$user@$host::$des ?
  • echo?"${files}?was?rsynced"?>>/tmp/rsync.log?2>&1 ?
  • done ?
  • 注意:經過1樓的提示,我發現如果把rsync.log的放到tmp(備份的目錄)或發送一直復制的問題,所以建議各位吧rsync的日志放到其他的目錄下(非備份目錄)。 其中host是client的ip,src是server端要實時監控的目錄,des是認證的模塊名,需要與client一致,user是建立密碼文件里的認證用戶。 把這個腳本命名為rsync.sh,放到監控的目錄里,比如我的就放到/tmp下面,并給予764權限
  • [root@nginx?tmp]#?chmod?764?rsync.sh?
  • 然后運行這個腳本
  • [root@nginx?tmp]#?sh?/tmp/rsync.sh?&?
  • 請記住,只有在備份服務器client端的rsync安裝并啟動rsync之后,在啟動rsync.sh腳本,否則有時候會滿屏出現:
  • rsync:?failed?to?connect?to?192.168.10.221:?Connection?refused?(111) ?
  • rsync?error:?error?in?socket?IO?(code?10)?at?clientserver.c(107)?[sender=2.6.8] ?
  • 我們還可以把rsync.sh腳本加入到開機啟動項里
  • [root@nginx?tmp]#?echo?"/tmp/rsync.sh"?>>?/etc/rc.local?
  • 二、備份服務器(client,我這里為nginx-backup

    1、安裝rsync(備份服務器只安裝rsync

  • [root@nginx-backup?~]#?cd?/usr/src/ ?
  • [root@nginx-backup?src]#?ll ?
  • total?16 ?
  • drwxr-xr-x?2?root?root?4096?Jan?26??2010?debug ?
  • drwxr-xr-x?2?root?root?4096?Jan?26??2010?kernels ?
  • [root@nginx-backup?src]#?wget??http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz ?
  • [root@nginx-backup?src]#?tar?zxvf?rsync-3.0.9.tar.gz ?
  • [root@nginx-backup?src]#?cd?rsync-3.0.9 ?
  • [root@nginx-backup?rsync-3.0.9]#?./configure?--prefix=/usr/local/rsync ?
  • [root@nginx-backup?rsync-3.0.9]#?make ?
  • [root@nginx-backup?rsync-3.0.9]#?make?install ?
  • 2、建立用戶與密碼認證文件
  • [root@nginx-backup?rsync-3.0.9]#?echo?"webuser:rsync-pwd"?>?/usr/local/rsync/rsync.passwd?
  • 請記住,在server端建立的密碼文件,只有密碼,沒有用戶名;而在備份服務端client里建立的密碼文件,用戶名與密碼都有。
  • [root@nginx-backup?rsync]#?chmod?600?rsync.passwd?
  • 需要給密碼文件600權限 3、建立rsync配置文件
  • uid?=?root?
  • gid?=?root?
  • use?chroot?=?no?
  • max?connections?=?10?
  • strict?modes?=?yes?
  • pid?file?=?/var/run/rsyncd.pid ?
  • lock?file?=?/var/run/rsync.lock ?
  • log?file?=?/var/log/rsyncd.log ?
  • [web] ?
  • path?=?/tmp/ ?
  • comment?=?web?file ?
  • ignore?errors ?
  • read?only?=?no?
  • write?only?=?no?
  • hosts?allow?=?192.168.10.220 ?
  • hosts?deny?=?* ?
  • list?=?false?
  • uid?=?root?
  • gid?=?root?
  • auth?users?=?webuser?
  • secrets?file?=?/usr/local/rsync/rsync.passwd ?
  • 其中web是server服務端里的認證模塊名稱,需要與主服務器里的一致,以上的配置我的自己服務器里的配置,以供參考。 把配置文件命名為rsync.conf,放到/usr/local/rsync/目錄里 啟動rsync
  • [root@nginx-backup?rsync]#?/usr/local/rsync/bin/rsync?--daemon?--config=/usr/local/rsync/rsync.conf?
  • 如果出現以下問題:
  • /usr/local/rsync/bin/rsync:?error?while?loading?shared?libraries:?libiconv.so.2:?cannot?open?shared?object?file:?No?such?file?or?directory,?
  • 可以采用下面方法解決
  • [root@nginx-backup?rsync]#?whereis?libiconv.so.2 ?
  • libiconv.so:?/usr/local/lib/libiconv.so.2?/usr/local/lib/libiconv.so ?
  • 找到所需模塊所在的目錄,然后把此目錄添加到/etc/ld.so.conf里,并更新庫文件
  • [root@nginx-backup?rsync]#?echo?"/usr/local/lib/"?>>?/etc/ld.so.conf ?
  • ?[root@nginx-backup?rsync]#?ldconfig ?
  • 我們可以把rsync腳本加入到開機啟動項里
  • [root@nginx-backup?rsync]#?echo?"/usr/local/rsync/bin/rsync?--daemon?--config=/usr/local/rsync/rsync.conf"?>>?/etc/rc.local?
  • 現在rsync與inotify在server端安裝完成,rsync在備份服務器client端也安裝完成 下面是server端的tmp文件情況

    ?

    下面是client端tmp的文件情況

    ?

    接下來我們來做一下測試,在server里創建個test-rsync文件,看看client是否能收到

    ?

    在看client端是否有test-rsync文件,同時client端的tmp目錄文件是否與server端的文件完全一致

    ?

    可以看到在client端,已經收到了test-rsync文件,而且client的tmp里的文件與server里tmp的文件完全相同、文件數目一致。 現在rsync與inotify的搭建與配置完成了,并實現了服務器直接數據的實時同步;大家可以根據自己的需要來進行相應的配置。 BTW:在rsync+inotify這種備份方法的時候,我公司遇到了一個問題,那就是主服務已經給備用服務同步完數據了,但主服務器磁盤看見滿了,需要把已經備份的文件刪除,但同時在備份服務器里保留主服務器里的文件,也就是說主服務器里刪除文件的時候,備份服務器里不跟著刪除文件,我查看了很多英文文檔,測試了很多遍,最后找到了一個解決方法,那就是在主服務器里,把rsync.sh這個腳本里第9行的--delete參數給去掉,就可以解決這個問題。

    本文出自 “吟—技術交流” 博客,請務必保留此出處http://dl528888.blog.51cto.com/2382721/771533

    轉載于:https://www.cnblogs.com/davidwang456/p/3980801.html

    總結

    以上是生活随笔為你收集整理的rsync+inotify实现服务器之间文件实时同步--转的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。