Linux如何提高大文件的拷贝效率以节约时间

三叶草

当你在进行机器直接的拷贝时，遇到大文件的时候非常浪费时间，那么有什么好的方法能够提高大文件的拷贝效率呢？下面的方法，大家可以尝试下
Linux系统操作中，当你在进行机器直接的拷贝时，遇到大文件的时候非常浪费时间，特别是将文件同时拷贝到多台机器上的时候，那么有什么好的方法能够提高大文件的拷贝效率呢?一起来学习下吧。
你可以从源机器逐个拷贝到逐台目标机器，但是往往时间也是成倍的。或者你也可以同时从源机器同时拷贝到多个目标机器，但是受制于源机器的带宽等因素，速度并不见得真的很快。
还好，借助一些UNIX工具可以做的更好。把tee和FIFO组合起来，可以形成一个文件快速分发链：处于分发链中的每台机器会保存文件，同时还分发给它的下一环。
首先，选定一台目标机器做为分发链的最后一环，在这台机器上只需要用nc监听(假定端口是1234)，再通过管道由pigz解压缩，继续通过管道把数据交由tar来分解。
nc -l 1234| pigz -d | tar xvf -
然后，再从分发链的末端往上走，设置其它目标机器，同样要经过监听、解压、分解，不过在解压之前我们通过tee命令将数据输出到命名管道(FIFO)，另外的一条shell管道会将这些未解压的数据同时分发到分发链的下一环：
mkfifo myfifo
nc hostname_of_next_box 1234 nc -l 1234| tee myfifo | pigz -d | tar xvf -
最后，在源机器上启动分发链，让数据传输到分发链的第一环：
tar cv some_files | pigz | nc hostname_of_first_box 1234
在我的测试中，分发链中的每台机器大概损失了3%-10%的性能(相对于1对1的拷贝而言)，但是相对逐个逐个的拷贝或者单台机器向多台机器同时分发，效率提升是很明显的。
上面就是Linux提高大文件拷贝效率的方法介绍了，主要通过UNIX工具形成一个文件快速分发链来实现大文件的快速拷贝，效率提高了不少。

[Linux] Linux如何提高大文件的拷贝效率以节约时间

相关帖子

电力猫怎么配对 TP-Link电力猫和扩展器配对教程

串行控制台如何在 Linux 上工作？

在 CentOS 8 中删除旧的 Linux 系统内核

PHP 非常实用下载远程图片

电力猫配对 TP-Link电力猫和扩展器配对教程

js数组之间如何进行连接

怎么在JavaScript中加注释

PHP模拟登陆抓取页面内容

uniapp 截屏扫码

阿里云服务器CentOS升级命令

三叶草 LV3