手工 XTTS CPT 迁移-跨平台迁移数据库

简介: -- xtts 跨平台迁移数据库-- 步骤:1、初始化参数设置;2、将源端数据文件传输到目标系统;3、转换数据文件为目标系统的字节序;4、在源端创建增量备份,并传输到目标端;5、在目标端恢复增量备份;6、重复多次操作4和5步骤;7、将源端数据库表空间设置为 READ ONLY 模式;8、最后一次执行4和5步骤;9、在源端导出元数据,并在目标端导入;10、将目标端的数据库表空间设置为 READ WRITE;11、数据验证。
-- xtts 跨平台迁移数据库

-- 步骤:
1、初始化参数设置;
2、将源端数据文件传输到目标系统;
3、转换数据文件为目标系统的字节序;
4、在源端创建增量备份,并传输到目标端;
5、在目标端恢复增量备份;
6、重复多次操作4和5步骤;
7、将源端数据库表空间设置为 READ ONLY 模式;
8、最后一次执行4和5步骤;
9、在源端导出元数据,并在目标端导入;
10、将目标端的数据库表空间设置为 READ WRITE;
11、数据验证。

-- 建议xtts目录和/rman 备份的路径目录都使用nfs共享

alter system set deferred_segment_creation=false sid='*' scope=spfile;

-- ###########################增量临时文件在asm######### xtt.properties ##########################
tablespaces=SPROD_TBS,IDX_TBS
platformid=13
dfcopydir=/xttrman/full -- 本地全量备份数据的路径
backupformat=/xttrman/incr -- 本地增量备份数据的路径
stageondest=/xttrman/full -- 目标端所需要恢复数据的路径,后续生成的增量也要拷贝到这里
storageondest=+DATA/prod/datafile -- 目标端数据文件路径 -c 的时候放的位置
backupondest=+DATA/prod/datafile -- 目标端增量文件的临时路径,做完增量后会自动删除,如果放asm需要设置asm_home和asm_sid
asm_home=/oracle/app/grid/product/11.2.0/grid
asm_sid=+ASM
parallel=2
rollparallel=2
getfileparallel=2
-- #############################建议使用这种方式,增量临时文件在文件系统###### xtt.properties #######################
tablespaces=SPROD_TBS,IDX_TBS
platformid=13
dfcopydir=/xttrman/full
backupformat=/xttrman/incr
stageondest=/xttrman/full
storageondest=+DATA/prod/datafile
backupondest=/xttrman/rec
#asm_home=/oracle/app/grid/product/11.2.0/grid
#asm_sid=+ASM
parallel=2
rollparallel=2
getfileparallel=2
-- ###########################################################################################

-- 源端全量备份脚本
cat full_backup.sh 
export TMPDIR=/oracle/soft/xttconvert
perl xttdriver.pl -p
-- 源端执行全量备份
sh full_backup.sh

-- 生成文件
$ cat xttplan.txt 
SPROD_TBS::::967892
6
IDX_TBS::::967892

$ cat rmanconvert.cmd
host 'echo ts::SPROD_TBS'; 
convert from platform 'Linux x86 64-bit' 
datafile 
'/xttrman/full/SPROD_TBS_5.tf' 
,'/xttrman/full/SPROD_TBS_6.tf' 
format '+DATA/prod/datafile/%N_%f.dbf' 
parallelism 2; 
host 'echo ts::IDX_TBS'; 
convert from platform 'Linux x86 64-bit' 
datafile 
'/xttrman/full/IDX_TBS_7.tf' 
format '+DATA/prod/datafile/%N_%f.dbf' 
parallelism 2;

-- 目标端,执行恢复转换
vi convert.sh
export XTTDEBUG=1
export TMPDIR=/oracle/soft/xttconvert
perl xttdriver.pl -c

sh convert.sh

vi do_incr.sh
export TMPDIR=/oracle/soft/xttconvert
perl xttdriver.pl -i
-- 源端增量备份
sh do_incr.sh

$ cat xttplan.txt.new 
SPROD_TBS::::968168
6
IDX_TBS::::968196

[oracle@localhost xttconvert]$ cat tsbkupmap.txt
IDX_TBS::7:::1=07u31cir_1_1
SPROD_TBS::5,6:::1=06u31ciq_1_1

-- 注意每次做完增量 需要将增量的数据文件拷贝到全量备份的目录下,恢复完删除/xttrman/incr/*
cp /xttrman/incr/-* /xttrman/full/

-- 目标端增量恢复
vi restore_incr.sh
export TMPDIR=/oracle/soft/xttconvert
perl xttdriver.pl -r

-- 注意如果增量恢复文件放在asm可能会出现以下错误,可以忽略,这个是xtts无法自动删除asm的临时文件
Can't locate strict.pm in @INC (@INC contains: /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0 /oracle/app/grid/product/11.2.0/grid/lib /oracle/app/grid/product/11.2.0/grid/lib/asmcmd /oracle/app/grid/product/11.2.0/grid/rdbms/lib/asmcmd /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl .) at /oracle/app/grid/product/11.2.0/grid/bin/asmcmdcore line 143.
BEGIN failed--compilation aborted at /oracle/app/grid/product/11.2.0/grid/bin/asmcmdcore line 143.
Can't locate strict.pm in @INC (@INC contains: /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0 /oracle/app/grid/product/11.2.0/grid/lib /oracle/app/grid/product/11.2.0/grid/lib/asmcmd /oracle/app/grid/product/11.2.0/grid/rdbms/lib/asmcmd /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0/x86_64-linux-thread-multi /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl/5.10.0 /oracle/app/grid/product/11.2.0/grid/perl/lib/site_perl .) at /oracle/app/grid/product/11.2.0/grid/bin/asmcmdcore line 143.
BEGIN failed--compilation aborted at /oracle/app/grid/product/11.2.0/grid/bin/asmcmdcore line 143.

-- 下次增量要记录当前恢复的scn位置,产生最新 xttplan.txt 文件,要不然下次增量还会在全量进行备份
perl xttdriver.pl -s

-- 后续增量循环以下三步骤
sh do_incr.sh
sh restore_incr.sh
perl xttdriver.pl -s

-- 最后一次增量,表空间设置为只读模式
SQL> alter tablespace SPROD_TBS read only;

Tablespace altered.

SQL> alter tablespace IDX_TBS read only;

Tablespace altered.

-- 最后一次恢复
sh do_incr.sh 
sh restore_incr.sh


----------------------------------------------------------------------------------------
-- 传输表空间
传输表空间的步骤可以和最后一次增量备份同时执行,可开并行
方法1:
-- 目标端执行,得到impdp脚本
$ORACLE_HOME/perl/bin/perl xttdriver.pl –e
impdp system/oracle directory=ddmp logfile=impdp_xtts_20180527.lognetwork_link=TEST \
transport_full_check=no \
transport_tablespaces=TEST,TEST_IND \
transport_datafiles='/data3/oradata/targetdb/TEST_5.dbf','/data3/oradata/targetdb/TEST_IND_6.dbf'

方法2:
-- 手工导出导入表空间
源端
expdp system/oracle directory=sdmp dumpfile=xtts.dmplogfile=expdp_xtts_20180527.log transport_tablespaces=TEST,TEST_INDtransport_full_check=no;

-- 复制导出的文件到目标端
目标端
impdp system/oracle directory=ddmp dumpfile=xtts.dmplogfile=impdp_xtts_20180527.logtransport_datafiles='/app/oradata/targetdb/TEST_5.dbf,/app/oradata/targetdb/TEST_IND_6.dbf'

-- 验证,传输完成后应该能够看到所有表空间,并且能够查询其中的数据
set pagesize 2000
set linesize 200
col file_name for a40
col OBJECT_NAME for a30
select TABLESPACE_NAME from dba_tablespaces;
----------------------------------------------------------------------------------------


-- 导入元数据

-- 源端检查表空间的自包含性
SQL> EXECUTE DBMS_TTS.TRANSPORT_SET_CHECK('TEST02', TRUE);
SQL> SELECT * FROM TRANSPORT_SET_VIOLATIONS; 
no rows selected

/*
$ expdp system/oracle directory=source_dbdata dumpfile=test02.dmp transport_tablespaces=test02 transport_full_check=y
$ impdp test02/test02 DUMPFILE=test02.dmp DIRECTORY=source_dbdata TRANSPORT_DATAFILES=/home/oracle/xtts/target_data/TEST02_7.dbf
*/

-- 方式一
-- 建议不要导入统计信息,目标库直接收集
create or replace directory xtts_dir as '/oracle/soft/'
create database link ttslink connect to system identified by "oracle" USING 'sprod';

ASMCMD> ls -al
WARNING:option 'a' is deprecated for 'ls'
please use 'absolutepath'

Type Redund Striped Time Sys Name
DATAFILE UNPROT COARSE JUN 01 21:00:00 Y +DATA/PROD/DATAFILE/idx_tbs_7.dbf => IDX_TBS.274.1009834557
DATAFILE UNPROT COARSE JUN 01 21:00:00 Y +DATA/PROD/DATAFILE/sprod_tbs_5.dbf => SPROD_TBS.273.1009834553
DATAFILE UNPROT COARSE JUN 01 21:00:00 Y +DATA/PROD/DATAFILE/sprod_tbs_6.dbf => SPROD_TBS.275.1009834553
DATAFILE UNPROT COARSE JUN 01 21:00:00 Y none => SYSAUX.257.1009808403
DATAFILE UNPROT COARSE JUN 01 21:00:00 Y none => SYSTEM.256.1009808403
DATAFILE UNPROT COARSE JUN 01 21:00:00 Y none => UNDOTBS1.258.1009808403
DATAFILE UNPROT COARSE JUN 01 21:00:00 Y none => USERS.259.1009808403
N idx_tbs_7.dbf => +DATA/PROD/DATAFILE/IDX_TBS.274.1009834557
N sprod_tbs_5.dbf => +DATA/PROD/DATAFILE/SPROD_TBS.273.1009834553
N sprod_tbs_6.dbf => +DATA/PROD/DATAFILE/SPROD_TBS.275.1009834553
ASMCMD>

impdp \’/ as sysdba\‘ directory=xtts_dir logfile=tts_imp.log network_link=ttslink transport_full_check=no transport_tablespaces=SPROD_TBS,IDX_TBS exclude=STATISTICS transport_datafiles='+DATA/PROD/DATAFILE/IDX_TBS.275.1009832163','+DATA/PROD/DATAFILE/SPROD_TBS.274.1009832159','+DATA/PROD/DATAFILE/SPROD_TBS.273.1009832159'

ls -al|grep -v *.zip|grep -v .sh|awk -F' ' '{print $9}'|xargs rm -rf

-- 方式二
-- 源端导出,如果不对数据字典做任何修改操作,可提前导出
expdp system/oracle DIRECTORY=xtts_dir LOGFILE=dp_fullexp_meta.log DUMPFILE=dp_full.dmp FULL=y CONTENT=METADATA_ONLY

-- 复制导出的文件到目标端
-- 目标端导入
impdp system/oracle DIRECTORY=xtts_dir LOGFILE=dp_fullexp_meta.log DUMPFILE=dp_full.dmp FULL=y CONTENT=METADATA_ONLY


-- 自定义 Role 处理
select GRANTED_ROLE from dba_role_privs whereGRANTEE='XTTS';
create role R_INIT_USER;
select 'grant '||PRIVILEGE||' to '||GRANTEE||';' fromdba_sys_privs where grantee='R_INIT_USER';

-- 自定义 Profile 处理
set long 1000000
SET PAGESIZE 3000
set lines 200
SET HEADING OFF
SET VERIFY OFF
SET FEEDBACK OFF
set echo on
set timing off
set wrap On
SET LONGCHUNKSIZE 400
spool create_profile.sql
with profile as(
select distinct profile from dba_profiles)
select dbms_metadata.get_ddl('PROFILE',PROFILE) fromprofile;

-- 临时表处理
set long 1000000
SET PAGESIZE 3000
set lines 200
SET HEADING OFF
SET VERIFY OFF
SET FEEDBACK OFF
set echo on
set timing off
set wrap On
SET LONGCHUNKSIZE 400
select dbms_metadata.get_ddl('TABLE',TABLE_NAME,OWNER)
from DBA_TABLES
where TEMPORARY='Y' and owner in ();


-- 解释:
tablespaces=    -- 需要迁移的表空间
platformid=   -- 源 OS 平台 ID
dfcopydir=   -- 源数据库备份文件存放目录
backupformat=    -- 源数据库增备文件存放目录
stageondest=   -- 目标据库备份文件存放目录
storageondest=   -- 目标据库正式文件存放目录
backupondest=   -- 目标据库增备文件存放目录
parallel=   -- 备份,转化的并行度
rollparallel=   -- 增备的并行度
getfileparallel=  -- 使用 dbms_file_transfer 方式的并行度











-- xtts 跨平台迁移数据库 2
1、源和目标库创建数据库对应的目录,目标库创建公共DBLink使用 system 用户
# source db
create or replace directory ora10g_dbf_dir as '+DATA/ora10g/datafile';
create or replace directory xttsfiles as '/home/oracle/xttsfiles';
grant read,write on directory ... to public;
# target db
create or replace directory ora12c_dbf_dir as '+DATA/ora12c/datafile';
create or replace directory xttsfiles as '/home/oracle/xttsfiles';
grant read,write on directory ... to public;
create database link ORA10G_LINK connect to system identified by system using 'ORA10G';

2、解压 XTTS
unzip -d /home/oracle/xtts rman_xttconvert_1.4.zip

3、编辑 xtts.properties 配置文件
vi xtts.properties
tablespace=AP_DATA,AP_IDX
# source db param
platform=2
srcdir=ora10g_dbf_dir
srclink=ora10g_link
dfcopydir=/home/oracle/xttsfiles
backupformat=/home/oracle/xttsfiles
# target db param
dstdir=ora12c_dbf_dir
stageondest=/home/oracle/xttsfiles
storageondest=+DATA
backupondest=+FRA
asm_home=/u01/app/12.1.0/grid
asm_sid=+ASM
parallel=4
rollparallel=2

4、执行脚本
-- 初始提取
Generate initial datafile image copies:
$ ./xttdriver.pl -S
Copy scripts & files to destination platform:
$ scp ... ...
Pull initial datafile image copies to destination:
$ ./xttdriver.pl -G
Conversion handled implicitly!
-- 增量同步
Generate INCREMENTAL LEVEL 1 backup sets:
$ ./xttdriver.pl -i
Copy scripts & files to destination platform:
$ scp ... ...
Capture SCN of last synchronization:
$ ./xttdriver.pl -s
Use INCREMENTAL LEVEL 1 backup sets to recover datafile image copies to current SCN:
$ ./xttdriver.pl -r
-- 当源库与目标库期望接近时,DBA决定完成迁移,则将所有需要XTTS迁移的对象设置为只读模式,
alter tablespace ... read only;
-- 直到最后一个1级增量备份被捕获兵传输到目标库,然后应用于0级备份,在最后一次恢复。
-- 最终同步
Generate INCREMENTAL LEVEL 1 backup sets:
$ ./xttdriver.pl -i
Copy scripts & files to destination platform:
$ scp ... ...
Capture SCN of last synchronization:
$ ./xttdriver.pl -s
Use INCREMENTAL LEVEL 1 backup sets to recover datafile image copies to final SCN:
$ ./xttdriver.pl -r
Import metadata into destination database:
$ ./xttdriver.pl -e




-- CPT(Cross-Platform Transport) 跨平台迁移数据库
# source 12.1.0.1 
Backup READ ONLY tablespace as backup sets:
rman target /
backup for transport format '+DATA' datapump format '/home/oracle/cpt/dp_file.dmp' tablespace tpch_data,tpch_idx;
Copy datafile backup sets to target database 12.1.0.2
Use DBMS_FILE_TRANSFER or other OS tools transport to destination OS.
# target 12.1.0.2 non-CDB
rman target /
restore foreign tablespace tpch_data,tpch_idx format '+DATA' from backupset '+RECO' dump file from backupset '/home/oracle/cpt/dp_file.dmp';
目录
相关文章
|
12天前
|
关系型数据库 Apache 流计算
手把手教你实现 OceanBase 数据到阿里云数据库 SelectDB 内核版 Apache Doris 的便捷迁移|实用指南
本文介绍了如何将数据从 OceanBase 迁移到阿里云数据库 SelectDB 内核版 Apache Doris。提供 3 种数据同步方法 1. 使用 DataX,下载 DataX 并编写配置文件,通过 OceanBaseReader 和 DorisWriter 进行数据迁移。 2. 利用 Apache Doris 的 Catalog功 能,将 OceanBase 表映射到 Doris 并插入数据。 3. 通过Flink CDC,设置 OceanBase 环境,配置 Flink 连接器,实现实时数据同步。
手把手教你实现 OceanBase 数据到阿里云数据库 SelectDB 内核版 Apache Doris 的便捷迁移|实用指南
|
4月前
|
关系型数据库 MySQL 数据库连接
gorm连接mysql数据库以及建表和自动迁移
gorm连接mysql数据库以及建表和自动迁移
39 0
|
5月前
|
SQL 数据库 Python
记Flask-Migrate迁移数据库失败的两个Bug——详解循环导入问题
Flask-Migrate迁移数据库失败的两个Bug 1、找不到数据库:Unknown database ‘***’ 若还没有创建数据库,该迁移工具不会自动创建。你可以使用SQL命令手动创建一个数据库:
42 0
|
5月前
|
关系型数据库 数据库 RDS
如果源数据库和目标数据库中都存在sequence的column且在迁移过程中没有新增的话
如果源数据库和目标数据库中都存在sequence的column且在迁移过程中没有新增的话
30 1
|
4天前
|
SQL 关系型数据库 MySQL
数据库的迁移
数据库的迁移
|
5天前
|
关系型数据库 MySQL 测试技术
【专栏】将 PostgreSQL 迁移到 MySQL 数据库
【4月更文挑战第29天】本文探讨了PostgreSQL数据库向MySQL迁移的过程、挑战及策略。迁移步骤包括评估规划、数据导出与转换、创建MySQL数据库、数据导入。挑战包括数据类型不匹配、函数和语法差异、数据完整性和性能问题。应对策略涉及数据类型映射、代码调整、数据校验和性能优化。迁移后需进行数据验证、性能测试和业务验证,确保顺利过渡。在数字化时代,掌握数据库迁移技能对技术人员至关重要。
|
19天前
|
SQL 自然语言处理 数据库连接
Django ORM的魔力:简化数据库操作与迁移
【4月更文挑战第15天】Django ORM是Django框架的关键部分,提供了一种高级的面向对象方式与数据库交互,简化了手动SQL操作。通过定义Python数据模型,开发者能轻松创建数据库表结构,使用ORM执行查询、添加、修改和删除数据。Django ORM还自动化处理数据库连接、事务和数据类型转换。当模型变化时,Django的迁移工具帮助管理数据库结构的更新。通过这种方式,Django ORM促进了高效、专注于业务逻辑的Web开发。
|
2月前
|
SQL 数据可视化 Apache
阿里云数据库内核 Apache Doris 兼容 Presto、Trino、ClickHouse、Hive 等近十种 SQL 方言,助力业务平滑迁移
阿里云数据库 SelectDB 内核 Doris 的 SQL 方言转换工具, Doris SQL Convertor 致力于提供高效、稳定的 SQL 迁移解决方案,满足用户多样化的业务需求。兼容 Presto、Trino、ClickHouse、Hive 等近十种 SQL 方言,助力业务平滑迁移。
阿里云数据库内核 Apache Doris 兼容 Presto、Trino、ClickHouse、Hive 等近十种 SQL 方言,助力业务平滑迁移
|
3月前
|
存储 关系型数据库 数据库
在进行RDS(Amazon Relational Database Service,亚马逊关系数据库服务)迁移时,兼容性审查
在进行RDS(Amazon Relational Database Service,亚马逊关系数据库服务)迁移时,兼容性审查
23 1
|
4月前
|
存储 安全 关系型数据库
云数据库和传统数据库之间的迁移和集成有哪些挑战?
云数据库和传统数据库之间的迁移和集成有哪些挑战?
36 0