linux复制文件通信方式,Linux分布式文件拷贝
在開發過程中總會遇到這種情況,就是需要將一個文件從一個機器拷貝到其他的很多臺機器中,最簡單的方法是用U盤拷出來再一個一個機器的插進去拷貝,另一張方法則是利用飛鴿傳書或者QQ等工具傳輸,但是都不是很方便,因為每次只能拷貝到一個機器。還有一種方法是講此文件共享,但是這會帶來很多權限的問題。
本文提高了一個可以同時將一個文件從一個機器拷貝到多臺機器的方法,采用的方式是鏈式傳輸(參照的博客鏈接http://engineering.tumblr.com/post/7658008285/efficiently-copying-files-to-multiple-destinations),如下圖所示。
本文的傳輸方式需要利用網絡工具netcat,netcat號稱Linux下的瑞士×××,一般在Linux中已經安裝了。首先介紹機器1的shell腳本為tar cv some_files | pigz | nc hostname_of_first_box 1234
先將文件進行壓縮,這里先用tar再用pigz使之變成tar.gz的形式,而gz的壓縮沒有使用gzip,而是使用pigz,因為pigz可以使用多核多線程的方式進行壓縮,提高壓縮速度(性能區別見博客http://imysql.cn/2012/12/03/using-pigz-instead-of-gzip.html)。壓縮了以后利用netcat發送出去。
機器2和機器3的腳本為mkfifo myfifo
nc hostname_of_next_box 1234
nc -l 1234 | tee myfifo | pigz -d | tar xvf -
建立一個fifo,然后將接收到的文件送入fifo,然后fifo將文件再傳到下一個機器中。同時將接收到的文件進行解壓縮。
最后一個機器,機器4的腳本為nc -l 1234 | pigz -d | tar xvf -
同樣也是接受文件,然后進行解壓縮。
總結
以上是生活随笔為你收集整理的linux复制文件通信方式,Linux分布式文件拷贝的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 住房公积金是什么意思,有什么作用
- 下一篇: 安装linux修复系统文件夹,误删除 L