首页 > 常用rsync命令操作梳理

常用rsync命令操作梳理

 

作为一个运维工程师，经常可能会面对几十台、几百台甚至上千台服务器，除了批量操作外，环境同步、数据同步也是必不可少的技能。

说到“同步”，不得不提的利器就是rsync。rsync不但可以在本机进行文件同步，也可以作为远程同步工具。

前面提到了rsync+inotify实时同步方案部署，下面结合本人近几年运维工作中对这一工具使用的经验，简单在此梳理下：

rsync同步命令中常用的几个参数说明：

-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD 
-v, --verbose 详细模式输出 
-p, --perms 保持文件权限 
-g, --group 保持文件属组信息
-o, --owner 保持文件属主信息 
-r, --recursive 对子目录以递归模式处理。同步目录的时候要加上这个参数
-l, --links 保留软链结，加上这个参数，同步过来的文件会保持之前的软链接属性不变
-H, --hard-links 保留硬链结 
-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步 
-z, --compress 对备份的文件在传输时进行压缩处理 
--stats 给出某些文件的传输状态 
--progress 打印同步的过程 
--timeout=TIME 同步过程中，IP超时时间，单位为秒 
--delete 删除那些目标目录中有而源目录中没有的多余文件。这个是rsync做增量方式的全备份的最佳选择方案！！！！！！
--delete-before 接受者在输出之前进行删除操作。即先将目标目录中文件全部删除，再将源目录文件拷贝过去。这是rsync保持目标目录跟源目录一致的方案！！！
--delete-after 在同步操作之后做比较，删除那些目标目录中有而源目录中没有的多余文件 
--delete-excluded 删除目标目录中那些被该选项指定排除的文件
--ignore-errors 即使出现IO错误也进行删除，忽略错误
--exclude 指定同步时需要过滤掉的文件或子目录(即不需要同步过去的)，后面直接跟不需要同步的单个文件名或子目录(不需要跟路径) ，过滤多个文件或子目录，就使用多个--exclude 
--exclude-from 指定同步时需要过滤掉的文件或子目录，后面跟文件(比如/root/exclue.txt)，然后将不需要同步的文件和子目录放到/root/exclue.txt下。
--version 打印版本信息 
--port=PORT 指定其他的rsync服务端口 
--log-format=formAT 指定日志文件格式 
--password-file=FILE 从FILE中得到密码 
--bwlimit=KBPS 限制I/O带宽，KBytes per second

通常用到的rsync同步命令，如下：

25791是ssh端口

[root@bastion-IDC ~]# rsycn -e "ssh -p 25791" -avpgolr  php5.5.1 192.168.1.22:/Data/app/

==========================rsync常规错误=======================

rsync: failed to set times on "." (in test_upload): Permission denied (13)
rsync: opendir "." (in test_upload) failed: Permission denied (13)原因是由于selinux没有关闭导致的，关闭它即可！
[root@test ~]# getenforce 
Enforcing
[root@test ~]# setenforce 0
[root@test ~]# getenforce 
Permissive
[root@test ~]# sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/sysconfig/selinux

rsync如何实现同步目标路径下的目录，不同步路径下的文件 ，只想同步目录结构

[root@bastion-IDC ~]# rsync -av --delete -f '+ */' -f '- *' SRC/ DEST/

rsync在远程同步的时候，要求目标目录要和源目录保持同步，目标目录中多余的文件都要删除

这就需要用到了参数--delete，如下：

[root@bastion-IDC ~]# /usr/bin/rsync -vlzrtogp --progress --delete [email protected]::test --password-file=/root/192.168.1.115 /root/2013/

但是这个--delete加上去就是一个危险的命令，因为它是在同步之前先将目标目录中的文件删除，然后再将源目录中的文件同步过去。

如果目标目录比较大，在删除过程中出现宕机事故就不好了。所以最好还是用--delete-before或--delete-after比较温柔点，靠谱点。

----------------------------------------------------------------------------------------------------------

rsync远程拷贝的时候，过滤某些某个文件或多个文件就用“--exclude 文件名”

要是过滤多个文件或子目录，就把过滤的文件或目录名的关键字放在一个文件里，如下的exclude_file文件

然后使用--exclude-from exclude—-file文件进行过滤

[root@bastion-IDC ~]# cat /root/lxp/exclude_file         //即rsync同步的时候，过滤掉含有下面字样名的文件

.svn
.git
.DS_Store
*.sql
*.bak
.project
main.php
environment.php
main/upload         //这个过滤的是rsync同步目录下的main/upload目录
main/temp/runtime
fangff              //过滤的目录
hqtime              //过滤的目录
apiConfig.php
consoleConfig.php
tpl_c
consoleConfig.php

[root@bastion-IDC ~]# cat rsync_code.sh         //提前做本机与192.168.1.57的ssh无密码登陆的信任关系

#!/bin/sh
EXCLUDE_FILE="/root/lxp/exclude_file"
/usr/bin/rsync -avpgolr -e "ssh -p 25791" --exclude-from ${EXCLUDE_FILE} /var/www/vhosts/www.wangshibo.com/httpdocs/ [email protected]:/var/www/vhosts/www.wangshibo.com/httpdocs/
/usr/bin/rsync -avpgolr -e "ssh -p 25791" --exclude-from ${EXCLUDE_FILE} /var/www/vhosts/fanghu.xqshijie.com/httpdocs/ [email protected]:/var/www/vhosts/fanghu.xqshijie.com/httpdocs/
/usr/bin/rsync -avpgolr -e "ssh -p 25791" --exclude-from ${EXCLUDE_FILE} /Data/fanghu_temp/ [email protected]:/Data/fanghu_temp/

例如：同步本机目录到远程服务器上，过滤到同步目录中的个别文件

下面脚本说明：同步过程中，同步目录中凡是main-local.php和params-local.php文件都不覆盖！

[root@huanqiu ~]# cat /Data/webroot_svncode/exclude
main-local.php
params-local.php[root@huanqiu ~]# vim rsync.sh
#!/bin/bash
EXCLUDE_FILE="/Data/webroot_svncode/exclude"
SOURCE_DIR=/srv/apache-tomcat-7.0.67/webapps/jenkins/jobs/apihuanqiu}/workspace/
DEST_DIR=/var/www/vhosts/apihuanqiu/
REMOTE_IP=192.168.19.19/usr/bin/rsync -e "ssh -p22" -avpgolr --exclude-from ${EXCLUDE_FILE} $SOURCE_DIR $REMOTE_IP:$DEST_DIR
/usr/bin/ssh -p22 $REMOTE_IP "chmod a+w -R /var/www/vhosts/apihuanqiu/frontend/web/assets/"
/usr/bin/ssh -p22 $REMOTE_IP "chmod a+w -R /var/www/vhosts/apihuanqiu/frontend/runtime/"

1）排除单独的文件夹和文件

比如要排除sources文件夹，我们可以添加 '--exclude' 选项：
--exclude 'sources'
命令是这样的：
[root@bastion-IDC ~]# rsync -e 'ssh -p 30000' -avl --delete --stats --progress --exclude 'sources' [email protected]:/home/demo /backup/比如要排除 "public_html" 文件夹下的 "database.txt" 文件：
--exclude 'public_html/database.txt'
命令是这样的：
[root@bastion-IDC ~]# rsync -e 'ssh -p 30000' -avl --delete --stats --progress --exclude 'sources' --exclude 'public_html/database.txt' [email protected]:/home/demo /backup/比如排除掉同步目录中的类似*-prod.properties文件（比如global-prod.properties等）
命令是这样的：
[root@bastion-IDC ~]# /usr/bin/rsync -av -e "/usr/bin/ssh -p25791" --rsync-path="/usr/bin/rsync" --exclude=*-prod.properties --progress /opt/tomcat/webapps/awaken_beta/ 192.168.1.20:/Data/app/apache-tomcat-8/awakenweb/ROOT/

2）使用 '--exclude-from' 排除多个文件夹和文件

建立文件：
[root@bastion-IDC ~]# touch /home/backup/exclude.txt在里面定义要排除的文件夹和文件
[root@bastion-IDC ~]# vim /home/backup/exclude.txt
sources
public_html/database.*
downloads/test/*使用指令：
--exclude-from '/home/backup/exclude.txt'最后的命令如下：
[root@bastion-IDC ~]# rsync -e 'ssh -p 30000' -avl --delete --stats --progress --exclude-from '/home/backup/exclude.txt' [email protected]:/home/demo /backup/

-------------------------------------------------用rsync命令和scp命令实现本机带进度条提示拷贝-----------------------------------

rsync和scp拷贝时显示进度条提示

1）rsync命令

[root@dbtest bak]# rsync -e "ssh -p22222" -avpgolr --progress db170630.tar.gz 192.168.1.198:/data/upload/

[email protected]'s password:

sending incremental file list

db170630.tar.gz

702087168 4% 5.60MB/s 0:41:47

--progress 可以实现本机带进度条提示拷贝，可以实现不同机器带进度条提示拷贝，可以拷贝多个文件

2）scp命令

[root@dbtest bak]# scp -v /mnt/full20100526.tar.gz /usr/local/src/

[以上命令] 本机拷贝无法显示进度

[root@dbtest bak]# scp -v /mnt/full20100526.tar.gz [email protected]:/usr/local/src/

[以上命令] 不同机器拷贝可以显示进度条，即使不带"-v"参数也可以显示进度条

[root@dbtest bak]# scp -v /mnt/full20100526.tar.gz [email protected]:/usr/local/src/

[以上命令] 变相实现本机带进度条提示拷贝，可以不带"-v"参数

3) cp命令

暂时没有找到带进度条提示拷贝

----------------------------------------------------- rsync同步时候的限流操作----------------------------------------------------

# rsync -auvz --progress --delete --bwlimit=1000 远程文件 本地文件 //限制为1000kBytes/s

# rsync -auvz --progress --delete --bwlimit=2048 远程文件 本地文件 //限制为2M/s

--------scp同步时的限流（-l参数）--------

# scp -l 1024 file [email protected] //限制为1M Bytes/s

转载于:https://www.cnblogs.com/kevingrace/p/5689491.html

更多相关：

  • linux 删除含有关键词的文件_误删除Linux系统文件了？这个方法教你解决

    本文来自 运维人生 ，作者：fly是个稻草人链接：http://www.ywadmin.com/?id=76误删除linux系统文件了？不用急，本文将给你一个恢复linux文件的方法，让你轻松应对运维中的各风险问题。方法总比问题多~说在前面的话针对日常维护操作，难免会出现文件误删除的操作。大家熟知linux文件系统不同win有回收...

  • mysql低权限用户getshell_GetShell的姿势总结

    原文来自SecIN社区—作者：WiHat0x00 什么是WebShell渗透测试工作的一个阶段性目标就是获取目标服务器的操作控制权限，于是WebShell便应运而生。Webshell中的WEB就是web服务，shell就是管理攻击者与操作系统之间的交互。Webshell被称为攻击者通过Web服务器端口对Web服务器有一定的操作权限，而...

  • 文件系统类型是ntfs无法确定卷版本和状态_硬盘写到一半时断电，文件系统里会发什么？...

    断电时文件系统发生了什么？硬盘又发生了什么？下一次开机时写到一半的文件在系统层面还在吗？在底层还在吗？更进一步的, 文件系统如何保证事务性, 会不会存在某种极端情况导致例如最后几个bit还没写完, 文件系统却认为它成功了的情况?回答不限任何文件系统，谢谢！下面是「北极」的回复分享断电的一瞬间，很多事情是无法确定的：1. 你无法确定...

  • python页面跳转中_python web页面跳转

    接到项目需求。需要搭建一个页面进行交互，慢慢来b (2).jpg使用python django框架进行页面的搭建在项目文件下打开窗口，输入命令;django-admin startproject helloword#在文件helloword/helloword/创建view.py在view.py文件中输入以代码from django....

  • PCL安装常见的错误集合解决方案（一）

    常见的错误集合解决方案（一）No.1提示错误'Microsoft.VC90.CRT,version="9.0.21022.8"把Microsoft.NET Framework 3.5.1下面的全部勾选上。No.2解决Qt Designer设计的图标但是VS生成不显示问题描述：在Qt designer中为菜单栏和工具栏设计的图标，但是...

  • 使用git更新github上的开源项目

    以前经常在github上下载一些开源项目,比如crtmpserver, nginx, apache traffic server, ffmpeg等, 一直不知道怎么同步更新到当前的最新源码. 我以前的做法,另找一个目录,重新下载这些开源项目.今天终于学到一招, 顺利同步更新这些开源代码. 方法其实很简单, 直接进入某个开源项目下面,...

  • git 初次push

    1、本地仓库与远程仓库第一次同步时，一直同步不上 最后 git status ,发现有两个文件没提交 提交后再push即可  2、如果不行，再看一下其他情况   转载于:https://www.cnblogs.com/sanhao/p/10681919.html...

  • 手头

    第一：Windows 搜索神器：Everthing：免费，秒搜。对比：Beyond Compare：对比文件很方便。EverNote：记录各种笔记，可以分类。网页，手机端同步计事：百度云记事本，网页端方便登陆，手机端便于同步，及一些零散的小东西非常方便。缺点：排版不好看UltraEdit：列级模式，让你爽翻天。编程工具：Androi...

©2024 11GX.COM