一步一步教你网站同步镜像

本文涉及的产品
云数据库 RDS SQL Server,独享型 2核4GB
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介:
一步一步教你网站 同步 镜像

1.介绍

现在的网站随着访问量的增加,单一服务器无法承担巨大的访问量,有没有什么方便快捷的方式解决这个问题呢,答案是”有”!
比如建立服务器群,进行均衡负载.
但是如果要解决像电信网通这样的互访问题(中国网民的悲哀..),这个解决办法就无能为力了!
要解决这个问题最方便快捷的方式就是建立镜像网站!由访问者自己选择适合自己网络的速度最快的网站!这样即可以解决线路问题,又可以解决访问量问题!


2.网站 同步 的数据分类

网站数据基本分为两类:
一类是文件,比如HTML,ASP,PHP等网页文件,或者RAR,ZIP,RM,AVI等可下载文件!
要实现他们的 同步 很简单,用FTP同步软件就可以了!至于哪几个我会在后面做详细介绍.

一类是 数据库 数据文件,比如MySQL,SQLServer等等!
数据库 同步 的方法也很多,最简单的办法只是将 数据库 目录 同步 一下就OK了!
在后面我也会做详细讲解!


3.网站文件的 同步

在这里用到的主要工具就是FTP,网站文件 同步 分两种情况,一种是本地到远程,一种是远程到远程(FXP)!第一种不用说了,第二种远程到远程即FXP,支持它的软件也很多,但是真正适合多网站 同步 镜像的却不多!
下面我介绍几个我认为不错的软件!

1.首先我要推荐的是国产的FTP软件”网络传神”,功能非常强大,特别是在网站的 同步 镜像方面,可惜的是,这款非常经典的软件已经不再更新了,最后更新时间是2003年3月,最后一个版本是3.12!虽然如此还是非常好用的!下面是一段官方的简介:

网络传神完全吸收了Cuteftp和UpdataNow的全部功能,并且增加了其他软件没有的多项功能:支持网站互传;支持网站 同步 (UPDATANOW);支持后台上传(多线程上传多个文件);可同时打开多个站点;多站点计划上传功能,支持镜像站点;支持宏操作支持计划操作;支持文件高级比较上传;支持目录隐藏过滤(为用ForntPage作主页的朋友带来福音);服务器自动识别功能;资源管理器浏览方式;可以自定义命令;支持RFC959标准具有更好的稳定性;完备的信息返回机制及错误监控机制完整的中文帮助。

2.第二款是由ReGet同一开发公司制作的专用于网站 同步 的软件”WebSynchronizer”,用这款软件,你才会体验到网站 同步 的方便快捷,简单容易.最新版本是1.3.62,网上能找到XX的最后版本是1.1版!下面是一段简介:

档案 同步 化工具-WebSynchronizer,由知名续传软件ReGet之软件出版公司所推出,是网站 同步 化、档案镜像、档案备份的绝佳工具,可以执行下列主要工作:1)本机资料夹及远程资料夹的 同步 化;2)两台远程计算机中的资料夹 同步 化;3)两个本机资料之 同步 化。

3.其他还有一些软件如 同步 快梭(AutoSyncFTP),也能实现简单的网站 同步 ,不过,这款软件非常不稳定,而且2001年就已经停止开发.所以,不用考虑了!还有上次有朋友提到的SiteMirro,由于网上找不到可以用的版本,所以没有办法测试!


网络传神网站 同步 镜像使用傻瓜指南


上次在网络技术版已经发过一个简单的使用方法介绍,如果嫌我罗嗦(o(>_<)o),大家可以参考那篇文章:
[url]http://bbs.et8.net/bbs/showthread.php?t=650129[/url]

第一次运行网络传神的时候,它会让你选择”完全模式”和”启动模式”,要使用网站 同步 必须选择”完全模式”.


进入主界面:你会发现这个软件非常像FlashGet,要使用网站 同步 功能,点击软件左下角的”FTP客户端”.


现在你要做的就是添加你的镜像母站和需要镜像的网站:文件->站点管理,在里面添加你需要 同步 的几个的FTP服务器,下面我将介绍具体设置(主要是镜像母站的设置)


母站设置最重要的地方就是”比较目录(网站 同步 )”:


1.拖动传送
就是手动拖动传送时候的传送方式,非拖动方式不受影响,因为母站的更新基本上是从本地目录进行的,所以建议这里选择第二项”只上传不同的文件”,镜像站点这里可以忽略
2.磁盘比较设置
这个功能非常有用,可以通过文件长度和文件日期进行文件差异对比.


你还可以设置本地目录过滤和服务器目录过滤,非常灵活!
好了,添加好母站和镜像站之后,我们来设置 同步 :


如果是添加镜像站,则会跳出下面的母站选择窗口:


设置好多个镜像站点之后,返回主界面就可以进行网站 同步 了:


注意事项:
一般不要改动镜像站点前面的“对钩”标志,因为镜像站点 同步 的原理是“根据主站点的 同步 信息更新镜像站点”,如果景象站点没有更新那么必须将该镜像站点单独 同步
注意一般应该“选项窗口”-〉“FTP客户端”-〉“计划”中的“最大连接个数”和“最大线程个数”一般不要改动保持为“1”。
如果 同步 时某个站点出错 同步 没有完全完成只需按“计划”窗口中的按钮单独执行某个站点的传送即可。

再介绍一下网站镜像 同步 中必要的功能,定时 同步 ,这样你就只要做好母站的更新,其他的让网络传神帮你完成:
点击设置:


进入网络传神的选项设置窗口,选中FTP客户端中的定时 同步


定时下载:在指定的时段内下载文件。
定时上传:在指定的时段内用网站 同步 的方法进行上传。
开始时间:如果要使用定时方式必须设置此项,在设置的时间中会自动开始所有设置为计划的站点。
停止时间:如果设置此项则当系统时间大于停止时间时自动停止所有设置为计划的站点。

注意:定时上传种没有“停止时间”选项,网站 同步 完成后会自动停止,同时网站 同步 同一时间只能运行一次。

网络传神还有很多为便于 同步 镜像设置的功能,大家实际使用中去体会吧!


WebSynchronizer网站 同步 镜像使用傻瓜指南


WebSynchronizer功能非常强大,不单单是网站 同步 ,还可以进行本地目录 同步 ,本地到远程 同步 ,功能方面远胜过传神,不过,国内好像没有汉化版,对于一些对英文感冒的朋友用起来会不太舒服,希望CCF里的汉化高手能将他中文化!

开始运行程序,老外的软件就是智能,一打开这个软件就会有一个 同步 向导跳出来!


在这里,你也看出来了吧,这个软件只支持两个目录间的 同步 .不过,我们可以创建多个项目来解决这个问题!具体我在后面介绍!这里,我们来看看如何建立两个远程目录的 同步 !
选择第二项,进入下一个选择框:


网站 同步 当然是选择第一项了!再进入下一步,要你选择 同步 的第一个服务器,建议在这里serverslist,先编辑好需要 同步 的几个FTP


同步 方式设置说明:
第一项的意思是:上传下载所有改变的文件
第二项的意思是:不改变文件夹内容,只下载新的文件

点击下一步进行第二个服务器设置,方法和第一个一样!
设置完成后,你还可以修改任务名称!
我觉得这点就是这个软件非常优秀的地方,以任务的方式进行管理.非常方便!


OK,现在我们就可以看到他的主界面了!


还有一点要提,他的计划任务更能也很强大,在这里我就不再多说了!用过才知道他的强大!

有朋友会说,我要进行两个以上的网站 同步 怎么办?
很简单,再多建几个任务就可以了,要镜像多少网站都没有问题!
这个软件的网站 同步 镜像可以非常灵活,比如可以本地-远程,然后再远程-远程!或者本地-远程1,本地-远程2,远程1-远程2,任何情形下的 同步 都可以完成!


数据库 同步 操作指南

说完了文件 同步 ,我们再来探讨一下 数据库 同步 !
这里我主要教大家两种最常用的 数据库 同步 方法!

MySQL

MySQL数据 同步 主要有三种方式:
1.利用MySQL自身的 数据库 同步 功能
2.利用MySQL数据库的特性( 数据库 存在固顶目录,并且以文件形式存储),进行 数据库 目录 同步 以达到数据 同步 目的
3.利用专用的MySQL数据库 同步 软件

1.利用MySQL自身的 数据库 同步 功能(下面参考自网上的文章,写的非常详细了)
MySQL从3.23.15版本以后提供 数据库 复制功能。利用该功能可以实现两个 数据库 同步 ,主从模式,互相备份模式的功能.

数据库 同步 复制功能的设置都在mysql的设置文件中体现。mysql的配置文件(一般是my.cnf),在unix环境下在/etc/mysql/my.cnf或者在mysql用户的home目录下的my.cnf。

windows环境中,如果c:根目录下有my.cnf文件则取该配置文件。当运行mysql的winmysqladmin.exe工具时候,该工具会把c:根目录下的my.cnf命名为mycnf.bak。并在winnt目录下创建my.ini。mysql服务器启动时候会读该配置文件。所以可以把my.cnf中的内容拷贝到my.ini文件中,用my.ini文件作为mysql服务器的配置文件。

  设置方法:
  设置范例环境:
  操作系统:window2000professional
  mysql:4.0.4-beta-max-nt-log
  Aip:10.10.10.22
  Bip:10.10.10.53
  A:设置
  1.增加一个用户最为 同步 的用户帐号:
  GRANTFILEON*.*TObackup@'10.10.10.53'IDENTIFIEDBY‘1234’
  2.增加一个 数据库 作为 同步 数据库
  createdatabasebackup
  B:设置
  1.增加一个用户最为 同步 的用户帐号:
  GRANTFILEON*.*TObackup@'10.10.10.22'IDENTIFIEDBY‘1234’
  2.增加一个 数据库 作为 同步 数据库
  createdatabasebackup
  主从模式:A->B
  A为master
  修改Amysql的my.ini文件。在mysqld配置项中加入下面配置:
  server-id=1
  log-bin
  #设置需要记录log可以设置log-bin=c:mysqlbakmysqllog设置日志文件的目录,
  #其中mysqllog是日志文件的名称,mysql将建立不同扩展名,文件名为mysqllog的几个日志文件。
  binlog-do-db=backup#指定需要日志的 数据库
  重起 数据库 服务。
  用showmasterstatus命令看日志情况。
  B为slave
  修改Bmysql的my.ini文件。在mysqld配置项中加入下面配置:
  server-id=2
  master-host=10.10.10.22
  master-user=backup#同步用户帐号
  master-password=1234
  master-port=3306
  master-connect-retry=60预设重试间隔60秒
  replicate-do-db=backup告诉slave只做backup数据库的更新
  重起 数据库
  用showslavestatus看 同步 配置情况。
  注意:由于设置了slave的配置信息,mysql在 数据库 目录下生成master.info
  所以如有要修改相关slave的配置要先删除该文件。否则修改的配置不能生效。
  双机互备模式。
  如果在A加入slave设置,在B加入master设置,则可以做B->A的 同步
  在A的配置文件中mysqld配置项加入以下设置:
  master-host=10.10.10.53
  master-user=backup
  master-password=1234
  replicate-do-db=backup
  master-connect-retry=10
  在B的配置文件中mysqld配置项加入以下设置:
  log-bin=c:mysqllogmysqllog
  binlog-do-db=backup
  注意:当有错误产生时*.err日志文件。 同步 的线程退出,当纠正错误后要让 同步 机制进行工作,运行slavestart
  重起AB机器,则可以实现双向的热备。
  测试:
  向B批量插入大数据量表AA(1872000)条
  A数据库每秒钟可以更新2500条数据。


2.数据库目录 同步 ,方法和文件 同步 一样,设置好需要 同步 的两个 数据库 目录就可以了!
缺点很明显,数据 同步 只能单向进行,可以作为备份方案

3.用专用的MySQL同步软件进行 同步
这方面的软件有SQLBalance和MyReplicator,优点是方便直观,还有很多争强功能!
缺点和2一样,只能单项 同步 !
当然你也可以修改镜像网站的程序为提交数据到母 数据库 ,读取则在当前镜像下的数据,不过,修改起来麻烦!普通用户修改也非常难!呵呵,大家了解一下就可以!给大家一个思路!有能力的朋友可以试试阿!

4.关于MySQL论坛的数据 同步
由于数据来源的不可控制(不好表达),论坛数据是实时的,而且还要考虑来自镜像论坛的数据,如何实现镜像论坛与母论坛数据 同步 呢?
用1中介绍的MySQL自带的 数据库 同步 功能互相备份模式就可以实现的!
不过,具体的应用我没有测试!稳定性不敢保证!
有能力的朋友推荐用下面这种思路来 同步 ,相对来说减少点效率,但能减少发生的错误!
比如镜像论坛数据 同步 :
1.母论坛和镜像论坛的数据全写在母论坛 数据库 里,主从模式,读取只在本地读取,这个需要修改程序!

2.每次写数据,都同时提交到两个 数据库 中,安全,但是效率很差,也得修改程序!


MSSQL

MSSQL数据 同步 利用 数据库 复制技术实现数据 同步 更新(来自网络,也是非常完美的教程)
复制的概念
复制是将一组数据从一个数据源拷贝到多个数据源的技术,是将一份数据发布到多个存储站点上的有效方式。使用复制技术,用户可以将一份数据发布到多台服务器上,从而使不同的服务器用户都可以在权限的许可的范围内共享这份数据。复制技术可以确保分布在不同地点的数据自动 同步 更新,从而保证数据的一致性。
SQL复制的基本元素包括
出版服务器、订阅服务器、分发服务器、出版物、文章
SQL复制的工作原理
SQLSERVER主要采用出版物、订阅的方式来处理复制。源数据所在的服务器是出版服务器,负责发表数据。出版服务器把要发表的数据的所有改变情况的拷贝复制到分发服务器,分发服务器包含有一个分发 数据库 ,可接收数据的所有改变,并保存这些改变,再把这些改变分发给订阅服务器
SQLSERVER复制技术类型
SQLSERVER提供了三种复制技术,分别是:
1、快照复制(呆会我们就使用这个)
2、事务复制
3、合并复制
只要把上面这些概念弄清楚了那么对复制也就有了一定的理解。接下来我们就一步一步来实现复制的步骤。
第一先来配置出版服务器
(1)选中指定[服务器]节点
(2)从[工具]下拉菜单的[复制]子菜单中选择[发布、订阅服务器和分发]命令
(3)系统弹出一个对话框点[下一步]然后看着提示一直操作到完成。
(4)当完成了出版服务器的设置以后系统会为该服务器的树形结构中添加一个复制监视器。同时也生成一个分发 数据库 (distribution)
第二创建出版物
(1)选中指定的服务器
(2)从[工具]菜单的[复制]子菜单中选择[创建和管理发布]命令。此时系统会弹出一个对话框
(3)选择要创建出版物的 数据库 ,然后单击[创建发布]
(4)在[创建发布向导]的提示对话框中单击[下一步]系统就会弹出一个对话框。对话框上的内容是复制的三个类型。我们现在选第一个也就是默认的快照发布(其他两个大家可以去看看帮助)
(5)单击[下一步]系统要求指定可以订阅该发布的 数据库 服务器类型,SQLSERVER允许在不同的 数据库 如ORACLE或ACCESS之间进行数据复制。但是在这里我们选择运行"SQLSERVER2000"的 数据库 服务器
(6)单击[下一步]系统就弹出一个定义文章的对话框也就是选择要出版的表
(7)然后[下一步]直到操作完成。当完成出版物的创建后创建出版物的 数据库 也就变成了一个共享 数据库
第三设计订阅
(1)选中指定的订阅服务器
(2)从[工具]下拉菜单中选择[复制]子菜单的[请求订阅]
(3)按照单击[下一步]操作直到系统会提示检查SQLSERVER代理服务的运行状态,执行复制操作的前提条件是SQLSERVER代理服务必须已经启动。
(4)单击[完成]。完成订阅操作。
完成上面的步骤其实复制也就是成功了。但是如何来知道复制是否成功了呢?这里可以通过这种方法来快速看是否成功。展开出版服务器下面的复制——发布内容——右键发布内容——属性——击活——状态然后点立即运行代理程序接着点代理程序属性击活调度把调度设置为每一天发生,每一分钟,在0:00:00和23:59:59之间。接下来就是判断复制是否成功了打开C:/ProgramFiles/MicrosoftSQLServer/MSSQL/REPLDATA/unc/XIAOWANGZI_database_database下面看是不是有一些以时间做为文件名的文件夹差不多一分中就产生一个。要是你还不信的话就打开你的 数据库 看在订阅的服务器的指定订阅 数据库 下看是不是看到了你刚才所发布的表—
一个手工 同步 的方案
--定时 同步 服务器上的数据
--例子:
--测试环境,SQLServer2000,远程服务器名:xz,用户名为:sa,无密码,测试 数据库 :test
--服务器上的表(查询分析器连接到服务器上创建)
createtable[user](idintprimarykey,numbervarchar(4),namevarchar(10))
go
--以下在局域网(本机操作)
--本机的表,state说明:null表示新增记录,1表示修改过的记录,0表示无变化的记录
ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[user]')andOBJECTPROPERTY(id,N'IsUserTable')=1)
droptable[user]
GO
createtable[user](idintidentity(1,1),numbervarchar(4),namevarchar(10),statebit)
go
--创建触发器,维护state字段的值
createtriggert_stateon[user]
afterupdate
as
update[user]setstate=1
from[user]ajoininsertedbona.id=b.id
wherea.stateisnotnull
go
--为了方便 同步 处理,创建链接服务器到要 同步 的服务器
--这里的远程服务器名为:xz,用户名为:sa,无密码
ifexists(select1frommaster..sysserverswheresrvname='srv_lnk')
execsp_dropserver'srv_lnk','droplogins'
go
execsp_addlinkedserver'srv_lnk','','SQLOLEDB','xz'
execsp_addlinkedsrvlogin'srv_lnk','false',null,'sa'
go
--创建 同步 处理的存储过程
ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[dbo].[p_synchro]')andOBJECTPROPERTY(id,N'IsProcedure')=1)
dropprocedure[dbo].[p_synchro]
GO
createprocp_synchro
as
--setXACT_ABORTon
--启动远程服务器的MSDTC服务
--execmaster..xp_cmdshell'isql/S"xz"/U"sa"/P""/q"execmaster..xp_cmdshell''netstartmsdtc'',no_output"',no_output
--启动本机的MSDTC服务
--execmaster..xp_cmdshell'netstartmsdtc',no_output
--进行分布事务处理,如果表用标识列做主键,用下面的方法
--BEGINDISTRIBUTEDTRANSACTION
--同步删除的数据
deletefromsrv_lnk.test.dbo.[user]
whereidnotin(selectidfrom[user])
--同步新增的数据
insertintosrv_lnk.test.dbo.[user]
selectid,number,namefrom[user]wherestateisnull
--同步修改的数据
updatesrv_lnk.test.dbo.[user]set
number=b.number,name=b.name
fromsrv_lnk.test.dbo.[user]a
join[user]bona.id=b.id
whereb.state=1
--同步后更新本机的标志
update[user]setstate=0whereisnull(state,1)=1
--COMMITTRAN
go
--创建作业,定时执行数据 同步 的存储过程
ifexists(SELECT1frommsdb..sysjobswherename='数据处理')
EXECUTEmsdb.dbo.sp_delete_job@job_name='数据处理'
execmsdb..sp_add_job@job_name='数据处理'
--创建作业步骤
declare@sqlvarchar(800),@dbnamevarchar(250)
select@sql='execp_synchro'--数据处理的命令
,@dbname=db_name()--执行数据处理的 数据库
execmsdb..sp_add_jobstep@job_name='数据处理',
@step_name='数据同步',
@subsystem='TSQL',
@database_name=@dbname,
@command=@sql,
@retry_attempts=5,--重试次数
@retry_interval=5--重试间隔
--创建调度
EXECmsdb..sp_add_jobschedule@job_name='数据处理',
@name='时间安排',
@freq_type=4,--每天
@freq_interval=1,--每天执行一次
@active_start_time=00000--0点执行
go









本文转自 qinling_bai 51CTO博客,原文链接:http://blog.51cto.com/22494/12351,如需转载请自行联系原作者
相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
缓存 安全 PHP
【阿里云镜像】配置阿里云 Composer 全量镜像
【阿里云镜像】配置阿里云 Composer 全量镜像
2543 0
【阿里云镜像】配置阿里云 Composer 全量镜像
|
4天前
|
敏捷开发 机器人 测试技术
云效产品使用常见问题之代理仓库同步到企业仓库的包和手动上传的有区别如何解决
云效作为一款全面覆盖研发全生命周期管理的云端效能平台,致力于帮助企业实现高效协同、敏捷研发和持续交付。本合集收集整理了用户在使用云效过程中遇到的常见问题,问题涉及项目创建与管理、需求规划与迭代、代码托管与版本控制、自动化测试、持续集成与发布等方面。
|
5月前
|
开发工具 git
服务器定时自动拉取Git仓库代码自动部署
服务器定时自动拉取Git仓库代码自动部署
130 0
|
11月前
|
弹性计算 安全 Java
区别:公共镜像、自定义镜像、共享镜像、镜像市场和社区镜像
阿里云公共镜像、自定义镜像、共享镜像、镜像市场和社区镜像有什么区别?
162 0
|
11月前
|
弹性计算 安全 Java
镜像区别:公共镜像、自定义镜像、共享镜像、云市场镜像和社区镜像对比
镜像区别:公共镜像、自定义镜像、共享镜像、云市场镜像和社区镜像对比
9486 1
|
Cloud Native 关系型数据库 MySQL
【阿里云镜像】切换阿里镜像,加速MySQL下载
【阿里云镜像】切换阿里镜像,加速MySQL下载
375 0
【阿里云镜像】切换阿里镜像,加速MySQL下载
|
存储 Dragonfly 缓存
Dragonfly 基于 P2P 的文件和镜像分发系统
Dragonfly 是一款基于 P2P 的智能镜像和文件分发工具。它旨在提高大规模文件传输的效率和速率,最大限度地利用网络带宽。在应用分发、缓存分发、日志分发和镜像分发等领域被大规模使用。
Dragonfly 基于 P2P 的文件和镜像分发系统
|
Linux 对象存储 数据中心
阿里云oss同步文件到本地,添加宝塔定时任务自动同步
阿里云oss同步文件到本地,添加宝塔定时任务自动同步
1414 0
|
存储 监控
七牛云存储发布同步上传客户端 - QRSBox
QRSBox - 七牛云存储同步上传客户端 QRSBox 是一个 “七牛云存储” 的同步上传客户端,目前是v0.6.0版本。这个东西的存在可能会让人困惑。以下是一些 FAQ:
415 0
七牛云存储发布同步上传客户端 - QRSBox
|
弹性计算 IDE Java
自定义镜像迁移方案
近日,有同学问到如果控制台不支持自定义镜像导出的情况下,该怎么进行自定义镜像的迁移。所以就开始着手写了这个文档,希望能够帮到有类似需求的同学。
1839 0