您的位置:首页 > 其它

rsync 文件同步命令 SCP命令

2017-10-15 11:32 453 查看
 快速查询scp:
    scp  各种参数   源地址文件    目的地址文件
  从本地复制到远程:

       scp   [[user@]host1:]file1 ... [[user@]host2:]file2
           本地用户名、地址、文件  远程用户名、地址、文件
           host可以用ip,也可以用域名(dns可以解析)
     可以省略本地信息:
      scp  file1 ... [[user@]host2:]file2

      也可以省略本地信息和远程用户信息:
      scp local_file remote_ip:remote_file 

 从远程复制到本地:
        scp   [[user@]host1:]remote_file ... [[user@]host2:local_file
               远程用户名、地址、文件         本地用户名、地址、文件
           host可以用ip,也可以用域名(dns可以解析)
     可以省略本地信息:
      scp [[user@]host2:]remote_file  local_file ... 
      也可以省略本地信息和远程用户信息:
      scp  remote_ip:remote_file local_file

快速查询 rsync:

rsync [OPTION]... SRC DEST                 本机到本机

rsync [OPTION]... SRC [USER@]host:DEST     本机到远端(ssh shell 方式)
rsync [OPTION]... [USER@]HOST:SRC DEST     远端到本机(ssh shell 方式)

rsync [OPTION]... [USER@]HOST::SRC DEST    远端到本机 (rsync  服务进程方式)
rsync [OPTION]... SRC [USER@]HOST::DEST    本机到远端 (rsync 服务进程方式)

rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]


 例子:rsync -aqe 'ssh -p 24 ' 10.11.0.45:/var/www/webroot/supp/upload/ /datepc/supp/upload

其中:

在指定复制源SRC时,路径是否有最后的 “/” 有不同的含义,例如:

/home : 表示将整个 /home 目录复制到目标目录

/home/ : 表示将 /home 目录中的所有内容复制到目标目录

如果目标 DEST 不存在,则自动创建

SRC: 是要复制的源位置
DEST: 是复制目标位置
若本地登录用户与远程主机上的用户一致,可以省略 USER@
当访问 rsync 服务器时也可以使用 rsync:// URL
当进行“拉”复制时,若指定一个 SRC 且省略 DEST,则只列出资源而不进行复制

[OPTION...]参数
如:
rsync -avzP apache@10.0.7.211::hadoop /backup

说明:

同步模块: [rsyncd.conf中那个方括号里的内容]

-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD。 
          -r 是递归     -l 是链接文件,意思是拷贝链接文件;-p 表示保持文件原有权限;

         -t 保持文件原有时间;-g 保持文件原有用户组;-o 保持文件原有属主;-D 相当于块设备文件;
 -z 传输时压缩;
 -v, --verbose 详细模式输出。
 -q, --quiet 精简输出模式。
 -P  --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
 -c, --checksum 打开校验开关,强制对文件传输进行校验。 
 -R, --relative 使用相对路径信息。 
 -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。
       可以使用--suffix选项来指定不同的备份文件前缀。-z 传输时压缩;-v, --verbose
详细模式输出。
 -e  --rsh=command 指定使用rsh、ssh方式进行数据同步    例:rsync -ae 'ssh -p port'

 --progress 显示备份过程
 --password-file=FILE    从FILE文件中得到密码

--exclude           指定排除不需要传输的文件(夹)  
(必须相对路径)      --exclude='file'    --exclude='file/123'  

--exclude-from=/exclude.list       指定排除不需要传输的文件列表     (绝对路径)
        比如 我想避开log文件夹,list中的1文件夹,和fire打头的文件    那么/exclude.list 写为 

                log 

                list/1

                fire* 
--include                               指定排除不需要传输的文件                      rsync -a --exclude='file'  (相对路径)
--include-from=/exclude.list  指定排除不需要传输的文件列表               (绝对路径)

(如果同时使用exclude和include,include命令在前)

--files-from="includes。txt" 只同步指定的目录清单  

        进入正题:
        rsync是类unix系统下的数据镜像备份工具。
        使用快速增量备份工具Remote Sync可以远程同步,支持本地复制,或者与其他SSH、rsync主机同步。

它的特性如下:
*可以镜像保存整个目录树和文件系统。

*可以很容易做到保持原来文件的权限、时间、软硬链接等等。

*无须特殊权限即可安装。

*快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。

*rsync 在传输数据的过程中可      以实行*压缩及解压缩操作,因此可以使用更少的带宽。

*安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。

*支持匿名传输,以方便进行网站镜象
*无论本地同步目录还是远程同步数据,首次运行时将会把全部文件拷贝一次,以后再运行时将只拷贝有变化的文件(对于新文件)或文件的变化部分(对于原有文件)。

   

 在使用 rsync 进行远程同步时,可以使用三种种方式:
一.本机不同目录进行同步

二.远程 Shell 方式
(建议使用 ssh,用户验证由 ssh 负责)

.C/S 方式(即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责)。

一.本机不同目录进行同步

同步命令:

1)本地使用:
rsync [OPTION...] SRC... [DEST]
 rsync -a /home/ /homeback

在指定复制源SRC时,路径是否有最后的 “/” 有不同的含义,例如:

/home : 表示将整个 /home 目录复制到目标目录

/home/ : 表示将 /home 目录中的所有内容复制到目标目录

如果目标 DEST 不存在,则自动创建

二.通过远程 Shell 使用:

当路径中包含 单引号:  时,启功该模式
远程 Shell 方式(建议使用 ssh,用户验证由 ssh 负责)  不用创建rsync服务器、守护进程

拉: rsync [OPTION...] [USER@]HOST:SRC... [DEST]

rsync -a web:/home/ /homeback


   
推: rsync [OPTION...] SRC... [USER@]HOST:DEST

rsync -a root@10.0.7.211:/home /homeback


如果用户名USER一致的话,可以省略
host 可以使用主机名(前提是可以解析),也可以使用ip地址

三.创建rsync守护进程

即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责

我们先来测试第二种方法,创建一台rsync服务器
测试使用的机器 两台机器都自带有rsync工具  
1. 源图片所在 A机器 10.0.7. 211  CentOS release 6.3 (Final)

      服务端(rsync服务器)

# rsync --version

    rsync  version 3.0.6  protocol version 30


2. 备份图片 B机器     10.0.7.216   CentOS Linux release 7.2

     客户端

# rsync --version
   rsync  version 3.0.9  protocol version 30

Rsync两个版本有所不同,这里来讲下

首先A机器  3.0.6版本 

[root@web1 ~]
# yum install rsync


[root@web1 ~]
# rpm -ql rsync
 查看文件位置


/etc/xinetd
.d
/rsync
 
         
##基于xinetd的管理


/usr/bin/rsync
 
               
##rsync命令


/usr/share/doc/rsync-3
.0.6 


/usr/share/doc/rsync-3
.0.6
/COPYING
 

/usr/share/doc/rsync-3
.0.6
/NEWS
 

……

软件包组成中没有提供配置文件和相应的文件,因此需要自行添加如下:

[root@node1 ~]
# mkdir /etc/rsyncd  ##创建配置目录 


[root@node1 ~]
# touch /etc/rsyncd/rsyncd.conf  ##
    创建主配置文件 


[root@node1 ~]
# touch /etc/rsyncd/rsyncd.secrets  ##  创建用户密码文件 


[root@node1 ~]
chmod 600 /etc/rsyncd/rsyncd.secrets ##修改文件权限


[root@node1 ~]
# touch /etc/rsyncd/rsyncd.motd   ##
   创建定义服务器信息的


解析rsyncd.conf

pid file = /var/run/rsyncd.pid #进程 pid 文件所在位置

port = 873                                 #指定监听端口,默认是873,可以自己指定

address = 192.168.1.171         #服务器监听的IP地址,可省略

[b]uid = root
      #守护进程所属的uid,默认是nobody,可能会碰到文件或目录权限问题,此处偷懒用的 root

gid = root      #守护进程的gid

#chroot,即改变程序执行时所参考的根目录位置,在传输文件之前,服务器守护程序在将chroot 到文件系统中的目录中

#这样做的好处是可能保护系统被安装漏洞侵袭的可能。缺点是需要超级用户权限。另外对符号链接文件,将会排除在外

#也就是说,你在 rsync服务器上,如果有符号链接,你在备份服务器上运行客户端的同步数据时,只会把符号链接名同步下来,并不会同步符号链接的内容

use chroot = yes

read only = no #只读选择,只让客户端从服务器上读取文件

write only = yes #只写选择,只让客户端到服务器上写入

#允许访问的IP,可以指定单个IP,也可以指定整个网段,能提高安全性。

#格式是 ip 与 ip 之间、ip 和网段之间、网段和网段之间要用空格隔开;
[/b]hosts allow = 192.168.1.0/255.255.255.0 10.0.1.0/255.255.255.0 



max connections = 5 #客户端最多连接数

#当用户登录时会看到这个信息。比如显示当前时间、公告等

motd file = /etc/rsyncd/rsyncd.motd

log file = /var/log/rsync.log  #rsync 服务器的日志;

transfer logging = yes          #记录传输文件的日志

log format = %t %a %m %f %b     #日志格式

syslog facility = local3                   #日志级别

#通过该选项可以覆盖客户指定的IP超时时间。可以确保rsync服务器不会永远等待一个崩溃的客户端。

#超时单位为秒钟,0表示没有超时定义,这也是默认值。

#对于匿名rsync服务器来说,一个理想的数字是600。

timeout = 300 

#模块定义

#主要是定义服务器哪个目录要被同步。

#每个模块都要以[name]形式。这个名字就是在 rsync 客户端看到的名字。

#但是服务器真正同步的数据是通过 path 指定的。可以依次创建多个模块。

#每个模块要指定认证用户、密码文件,但排除并不是必须的。

[ logs ]                                 #模块名,以下配置都属于此模块

path = /var/log                    #文件目录所在位置

list = no                               #当查看服务器上提供了哪些目录时是否列出来,no比较安全

ignore errors                      #忽略I/O错误

#指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。

#这里的用户和系统用户没有任何关系,是 rsyncd.secrets 中的用户名!

#如果"auth users"被设置,那么客户端发出对该模块的连接请求

#以后会被rsync请求challenged进行验证身份。

#这里使用的 challenge/response 认证协议。

#用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。

#默认情况下无需密码就可以连接模块(也就是匿名方式)。

auth users = zhangzk

secrets file = /etc/rsyncd/rsyncd.secrets        #密码文件

exclude = error_log httpd.pid             #忽略的文件或目录

comment this is my log                       #本模块注释,可选






1.编辑配置rsyncd.conf

pid file = /var/run/rsyncd.pid

port = 873

uid = root

gid = root

use chroot = yes

read only = no

#write only = yes

hosts allow = 10.0.7.211

hosts deny  =*

max connections = 5

motd file = /etc/rsyncd/rsyncd.motd

log file = /var/log/rsync.log

transfer logging = yes

log format = %t %a %m %f %b

syslog facility = local3

timeout = 300 

[ logs ]  

path = /root/test/log

list = no

ignore errors

auth users =lalala

secrets file = /etc/rsyncd/rsyncd.secrets

#exclude =

comment this is my log


##定义第二个同步目录

[weblog] 
path = /var/www/log
list=yes 
ignore errors 
auth users = apache     ##必须在服务器上存在的真实的系统用户,多个用户以,号隔开
secrets file = /etc/rsyncd/rsyncd.secrets  ##指定上述账号密码文件 
comment = web log
exclude =   data/ data1/   ##排除log下的data目录和data1目录


2.编辑密码文件
[root@node1 ~]# vi /etc/rsyncd/rsyncd.secrets

apache:123456

注:1、将rsyncd.secrets这个密码文件的文件属性设为root拥有, 且权限要设为600, 否则无法备份成功!          

                   出于安全目的,文件的属性必需是只有属主可读。

         2、这里的密码值得注意,为了安全你不能把系统用户的密码写在这里。

                比如你的系统用户easylife密码是 000000,为了安全你可以让rsync中的easylife为keer。

                这和samba的用户认证的密码原理是差不多的。

3.编辑服务器信息文件

设定rsyncd.motd 文件;

它是定义rysnc服务器信息的,也就是用户登录信息。比如让用户知道这个服务器是谁提供的等;
类似ftp服务器登录时,我们所看到的 linuxsir.org ftp ……。 
当然这在全局定义变量时,并不是必须的,你可以用#号注掉,或删除;
我在这里写了一个 rsyncd.motd的内容为:

  ++++++++++++++++++++++++++++++++++++++++++++++

  Welcome to use the mike.org.cn rsync services!

           2017

  ++++++++++++++++++++++++++++++++++++++++++++++


服务器端启动:

usr/bin/rsync --daemon --config=/etc/rsyncd/rsyncd.conf

可能需要root权限运行.
/etc/rsyncd/rsyncd.conf 是你刚才编辑的rsyncd.conf的位置.

也可以在/etc/rc.d/rc.local里加入让系统自动启动等.



设置服务启动脚本:  service rsync start   

参考这里      Shell 增加server rsync 控制脚本

访问 rsync 服务器:
当路径中包含 双引号::  时,启功该模式
拉: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
拉: rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
rsync -a apache@10.0.7.211::hadoop /homeback

rsync -a rsync://web/home 

推: rsync [OPTION...] SRC... [USER@]HOST::DEST
推: rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

连接密码 是在rsyncd.secrets 中设定的

user使用在rsyncd.secrets 中定义的用户
这里的 SRC和DEST 是rsync.conf中 指定的模块
客户端的rsyncd.secrets  文件中 只存入密码就可以
请把客户端和服务端的  rsyncd.secrets
文件权限都设定为600 


特殊设置

从远程服务器 同步到本地  强制性一致

 # rsync -avzP --delete apache@110.0.7.211::hadoop /backup
         这回我们引入一个 --delete 选项,表示服务器上的数据要与客户端完全一致,

如果 /backup目录中有服务器上不存在的文件,则删除。

        最终目的是让 /backup 目录上的数据完全与服务器上保持一致;

         用的时候要小心点,最好不要把已经有重要数所据的目录,当做本地更新目录,否则会把你的数据全部删除;


从远程服务器 同步到本地  自动脚本

# rsync -avzP --delete --password-file=/tmp/rsync.password apache@110.0.7.211::hadoop /backup

          加了一个选项 –password-file=rsync.password ,这时当我们以apache用户登录rsync服务器同步数据时,密码将读取 /tmp/rsync.password 这个文件。这个文件内容只是apache用户的密码

# touch /tmp/rsync.password
# chmod 600 /tmp/rsync.password
# echo "123456"> /tmp/rsync.password
注: 这样就不需要密码了;其实这是比较重要的,因为服务器通过crond 计划任务还是有必要的;
rsync 客户端自动与服务器同步数据:
编辑crontab # crontab -e 加入如下代码:
10 0 * * * rsync -avzP --delete --password-file=/tmp/rsync.password apache@10.0.7.211::hadoop  /tmp/hadoop/
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  rsync scp