博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
使用BBCP来提升跨互联网的数据传输速度
阅读量:5057 次
发布时间:2019-06-12

本文共 2218 字,大约阅读时间需要 7 分钟。

背景介绍:

目前项目在美国东西部以及欧洲都有服务器节点,跨互联网的数据传输速度很不稳定,之前我们主要是通过SCP以及Rsync等方式进行数据传输的。
无意间发现了BBCP这个软件之后,经过测试,效果非常好,速度提升效果很明显,并且传输速度一直比较稳定,同时支持日志以及失败后重试等参数,非常不错。

参考资料:

安装配置:

[aikaiyuan@aikaiyuan~]$ sudo wget http://www.slac.stanford.edu/~abh/bbcp/bin/amd64_rhel60/bbcp -O /usr/bin/bbcp[aikaiyuan@aikaiyuan~]$ sudo chmod +x /usr/bin/bbcp[dong@west-ads1 ~]$ sudo wget http://www.slac.stanford.edu/~abh/bbcp/bin/amd64_rhel60/bbcp -O /usr/bin/bbcp[dong@west-ads1 ~]$ sudo chmod +x /usr/bin/bbcp[aikaiyuan@aikaiyuan~]$ which bbcp/usr/bin/bbcp[aikaiyuan@aikaiyuan~]$ ssh west-ads1 which bbcp/usr/bin/bbcp[aikaiyuan@aikaiyuan~]$ cd dong[aikaiyuan@aikaiyuandong]$ sudo dd if=/dev/zero of=/home/adsymp/dong/file.2g bs=1024M count=2
2+0 records in2+0 records out2147483648 bytes (2.1 GB) copied, 45.9129 s, 46.8 MB/s
[aikaiyuan@aikaiyuandong]$ ls -lhtotal 2.0G-rw-r--r-- 1 root root 2.0G Mar 4 06:40 file.2g[aikaiyuan@aikaiyuandong]$ time bbcp -r -P 2 -V -w 8m -s 16 file.2g west-ads1:/home/adsymp/dong/
bbcp: Window size reduced to 245760 bytes.bbcp: Indexing files to be copied...bbcp: Copying 0 files in 0 directories.Source sc2-admin1002.drawbrid.ge using initial send window of 18700Target iad2-admin1002.drawbrid.ge using initial recv window of 87380bbcp: Creating /home/adsymp/aikaiyuan/file.2gbbcp: 140304 06:46:12  0% done; 8.5 MB/s, avg 8.5 MB/sbbcp: 140304 06:46:14  1% done; 6.9 MB/s, avg 7.5 MB/s...bbcp: 140304 06:51:46  99% done; 7.7 MB/s, avg 6.1 MB/sbbcp: 140304 06:51:48  99% done; 3.3 MB/s, avg 6.1 MB/sSource cpu=3.643 (sys=3.552 usr=0.091).File /home/adsymp/aikaiyuan/file.2g created; 2147483648 bytes at 6.0 MB/s48 buffers used with 0 reorders; peaking at 0.Source sc2-admin1002.drawbrid.ge using a final send window of 433840Target cpu=15.149 (sys=14.505 usr=0.644).Target iad2-admin1002.drawbrid.ge using a final recv window of 22986241 file copied at effectively 6.0 MB/sreal    5m42.236suser    0m0.104ssys     0m3.567s
[aikaiyuan@aikaiyuandong]$ time scp file.2g west-ads1:/home/adsymp/dong/file.2g   100%   2048MB   2.1MB/s   16:06real    16m8.448suser    0m43.497ssys     0m7.548s
结论:

在上面的测试中,传输一个大小为2G的文件,使用BBCP耗时仅5分钟,而普通的SCP则耗时16分钟,速度提升超过60%。

 

相关文章

转载请注明: »

转载于:https://www.cnblogs.com/seasonzone/p/5253228.html

你可能感兴趣的文章
ASP.NET MVC上传文件 未显示页面,因为请求实体过大。解方案
查看>>
怎样在 Mac 上打开 ~_Library 文件夹
查看>>
【转】emulator: ERROR: Could not load OpenGLES emulation library: lib64OpenglRender.so
查看>>
团队编程项目作业3-----模块开发过程
查看>>
站台查询api 据站台名称查询站台详细信息
查看>>
python内存管理机制
查看>>
Lucene2.9.1使用小结(同样适用于Lucene 3.0 )
查看>>
电脑木马
查看>>
PHP中的事件处理
查看>>
Log4net 日志使用介绍
查看>>
Powershell中获取最后一个被更新的文件
查看>>
3.Gen_Fsm行为
查看>>
shell date获取时间值
查看>>
Javascript把数据从一个页面的层传递到另一个页面层里面
查看>>
网站session容易丢失解决方法
查看>>
用户界面控件Telerik UI for WinForms发布R2 2019|附下载
查看>>
Memcache基础教程
查看>>
Oracle数据库--解决单张表中数据量巨大(大数据、数据量上百万级别,后查询,更新数据等耗时剧增)...
查看>>
云serverlinux又一次挂载指定文件夹(非扩充)
查看>>
PCB 帆软FineReport安装,布署,配置
查看>>