用 bbcp 取代 scp

简介:

0. 前言

bbcp 是由SLAC(斯坦福直线加速器中心)的Andy Hanushevsky创立的点对点网络文件拷贝工具。经过简单测试,发现速度比 scp 快了10倍左右,因此推荐大家采用bbcp来取代scp等老家伙 :)

1. 安装

访问bbcp的主页: http://www.slac.stanford.edu/~abh/bbcp/,下载对应二进制版本或者源码,如果是源码,就需要自己编译;这里我选择的是二进制版本,省事。我的系统平台是 Linux 2.6.9-67.0.15.ELsmp x86_64,因此选择了: Redhat Linux RHEL4 (Nahant 2.6.9-67-ELsmp amd64_linux26)。下载回来后,直接放到 /usr/local/bin 下面:
mv bbcp.amd64_linux26 /usr/local/bin/bbcp && chmod +x /usr/local/bin/bbcp
然后就可以开始用了。
注意:如果你的服务器启用防火墙了,注意需要开放 5031 端口的 INPUT 链。例如,要从 192.168.0.84 拷贝文件到 192.168.0.85,则做如下规则:
iptables -I INPUT -s 192.168.0.85 -p tcp --dport 5031 -j ACCEPT
另外,bbcp拷贝的目标段也需要安装bbcp。

2. 测试

本次测试都是拷贝1G的文件。

2.1 测试 scp

time scp 1Gfile 192.168.0.85:/home/yejr/
1Gfile                                100% 1024MB  10.2MB/s   01:40
real    1m40.933s
user    1m34.360s
sys     0m6.497s 

2.2 测试 bbcp

time bbcp -v -s 16 -F -f -w 256k ibdata1 root@192.168.0.85:/home/update/
bbcp: Resource temporarily unavailable obtaining address for 192.168.0.84
bbcp: Resource temporarily unavailable obtaining address for 192.168.0.84
bbcp: Resource temporarily unavailable obtaining address for 192.168.0.85
bbcp: Resource temporarily unavailable obtaining address for 192.168.0.85
bbcp: Resource temporarily unavailable obtaining address for 192.168.0.84
bbcp: Resource temporarily unavailable obtaining address for 192.168.0.84
bbcp: 192.168.0.84 kernel using a send window size of 524352 not 262176
File /home/update/ibdata1 created; 1073741824 bytes at 115788.0 KB/s
1 file copied at effectively 103737.2 KB/s
real    0m10.111s
user    0m0.031s
sys     0m2.767s
本文转自叶金荣51CTO博客,原文链接:http://blog.51cto.com/imysql/308854,如需转载请自行联系原作者
相关文章
|
4月前
Linux-远程拷贝(scp命令)
Linux-远程拷贝(scp命令)
30 0
|
8月前
|
安全 Linux 网络安全
Linux SCP指令:安全高效的文件传输方式
在Linux系统中,文件的传输和共享是常见的任务。SCP(Secure Copy Protocol)是一种安全的文件传输方式,基于SSH协议,可以在不同的Linux主机之间进行文件的复制和传输。本文将详细介绍Linux下的SCP指令,包括工作原理、使用方法、参数以及实际应用,帮助读者掌握这种安全高效的文件传输方式。
388 0
|
分布式计算 Hadoop Java
Hadoop集群搭建记录 | 云计算[CentOS7] | 伪分布式集群 Master运行WordCount
写在前面 step1 eclipse访问hadoop step2 重启并配置eclipse step3 新建Map/Reduce项目 step4 复制粘贴代码 step5 配置运行参数 整个hadoop就到此结束啦
135 0
Hadoop集群搭建记录 | 云计算[CentOS7] | 伪分布式集群 Master运行WordCount
|
分布式计算 Hadoop Linux
Hadoop集群搭建记录 | 云计算[CentOS7] | 伪分布式集群[主机名与ip映射+修改配置文件]
写在前面 配置局域网主机 设置虚拟机主机名 添加IP地址映射 尝试ping查看结果 补充一发芝士
204 0
Hadoop集群搭建记录 | 云计算[CentOS7] | 伪分布式集群[主机名与ip映射+修改配置文件]
|
数据安全/隐私保护
不互信情况下 A机器scp一个文件到B机器 无需密码操作方法
这个问题如果理解不深入的话很容易答错,正确答案应该为:将A机器的id_rsa.pub(公钥)输出到B机器的authorized_keys中。 操作步骤:(假设hadoop000为A hadoop001为B)
90 0
|
存储 安全 Linux
Linux如何使用 SCP 和 SFTP 安全传输文件
通过使用基于 SSH 的身份验证,SFTP 和 SCP 是在系统之间安全地移动文件的便捷命令。
195 0
Linux如何使用 SCP 和 SFTP 安全传输文件
|
安全 Linux 网络安全
28. scp远程拷贝
scp 用于 Linux 之间复制文件和目录。scp 是 secure copy 的缩写, scp 是 linux 系统下基于 ssh 登陆进行安全的远程文件拷贝命令。scp命令是加密的,rcp命令 是不加密的,scp 是 rcp 的加强版。
161 0
Linux的远程传输命令scp
一、介绍 scp(secure copy)是一个基于 SSH 协议在网络之间进行安全传输的命令。它不同于linux下的cp命令,它可以把一个主机的文件复制到另一个主机上,并且所有传输的数据都将进行加密处理。
1887 0
|
Linux 数据安全/隐私保护 网络安全