业务规划
数据同步场景中已部署两个数据库,包括源数据库Oracle(192.168.20.24)和目标数据库Oracle(192.168.20.21),其中源数据库包括一个PDB1可插拔数据库(PDB)。
现需通过在第三台远程服务器上(192.168.20.22)搭建DMDRS,将源数据库PDB1容器中RESOURCES模式下所有表的全量数据和增量数据同步到目标数据库的RESOURCES模式。
注意基于XStream同步的特性,DMDRS需要使用XStream管理用户登录。
源DMDRS:捕获源数据库的数据,将捕获到的数据发送到目标DMDRS。
目标DMDRS:将接收的数据同步到目标数据库。
网络规划
| DMDRS服务 | IP地址和端口 | 连接数据库 | 说明 |
|---|---|---|---|
| 源DMDRS | 192.168.20.22:5345 | 源数据库 Oracle 192.168.20.24:1521 网络服务名:orcl |
源DMDRS服务器需要安装OCI驱动与源数据库Oracle连接。 |
| 目标DMDRS | 192.168.20.21:5345 | 目标数据库 Oracle 192.168.20.21:1521 网络服务名:orcl |
目标DMDRS服务器需要安装OCI驱动与目标数据库Oracle连接。 |
目录规划
源DMDRS服务和目标DMDRS服务相关的目录规划如下表所示。
| 目录类型 | 目录名 | 目录示例 |
|---|---|---|
| 源数据库 | 数据库归档文件目录 | /oradata/arch |
| 源DMDRS服务 | 安装目录 | /home/dmdrs/dmdrs5 |
| 执行程序目录 | /home/dmdrs/dmdrs5/bin | |
| 配置文件路径 | /home/dmdrs/dmdrs5/bin/cpt.xml | |
| 服务脚本模板目录 | /home/dmdrs/dmdrs5/bin/service_template | |
| 服务脚本目录 | /home/dmdrs/dmdrs5/bin | |
| console远程控制工具 | /home/dmdrs/dmdrs5/bin/drcsl | |
| 目标DMDRS服务 | 安装目录 | /home/dmdrs/dmdrs5 |
| 执行程序目录 | /home/dmdrs/dmdrs5/bin | |
| 配置文件路径 | /home/dmdrs/dmdrs5/bin/exec.xml | |
| 服务脚本模板目录 | /home/dmdrs/dmdrs5/bin/service_template | |
| 服务脚本目录 | /home/dmdrs/dmdrs5/bin | |
| console远程控制工具 | /home/dmdrs/dmdrs5/bin/drcsl |
设置源DMDRS服务的运行用户对服务所在目录及子目录的读、写和执行权限,并设置运行用户同数据库归档文件所在目录属于同一用户组,此用户组应对归档文件所在目录及子目录有读权限。
设置目标DMDRS服务的运行用户对服务所在目录及子目录的读、写和执行权限。
在源DMDRS和目标DMDRS服务器的环境变量中添加OCI驱动文件路径。
打开.bash_profile配置文件。
$ vi ~/.bash_profile
在.bash_profile配置文件末尾增加OCI驱动路径。
export LD_LIBRARY_PATH=<OCI驱动路径>:$LD_LIBRARY_PATH
保存并退出vi编辑器,使环境变量生效。
$ source ~/.bash_profile
查看环境变量是否设置成功。
$ echo $LD_LIBRARY_PATH
注意修改数据库为归档模式需重启数据库服务,生产环境中需确认能否停机维护,且需要在根容器中操作。
使用SQL*Plus登录到源数据库。
$ sqlplus / as sysdba
查看数据库归档模式是否开启。若数据库已经开启归档模式,则跳过步骤3~步骤7。
SQL> archive log list
暂停数据库服务。
SQL> shutdown immediate
以mount方式启动Oracle数据库服务。
SQL> startup mount
开启数据库归档,并设置归档文件路径。
SQL> alter database archivelog;
SQL> alter system set db_recovery_file_dest='';
SQL> alter system set log_archive_dest='/oradata/arch';
重启数据库,使归档路径生效。
SQL> shutdown immediate;
SQL> startup mount;
将数据库切换到正常的工作状态。
SQL> alter database open;
查看数据库最小附加日志及全列日志是否开启。若数据库已经开启最小附加日志及全列日志,则跳过步骤9。
SQL> select supplemental_log_data_min from v$database;
SQL> select supplemental_log_data_all from v$database;
开启数据库最小附加日志及全列日志。
SQL> alter database add supplemental log data;
SQL> alter database add supplemental log data (ALL) columns;
开启enable_goldengate_replication参数。
SQL> alter system set enable_goldengate_replication = TRUE;
开启全部可插拔数据库。
SQL> alter pluggable database all open;
以sys用户连接到Oracle数据库实例,执行如下SQL,如果包含多个PDB,则每个PDB都需要创建对应表空间(具体路径以实际为准)。
CREATE TABLESPACE xstream_tbs datafile '/opt/app/oracle/oradata/orcl/xstream_tbs.dbf' size 25M reuse autoextend on maxsize unlimited;
alter session set container = PDB1;
CREATE TABLESPACE xstream_tbs datafile '/opt/app/oracle/oradata/ORCLPDB/ORCLPDB1/xstream_tbs.dbf' size 25M reuse autoextend on maxsize unlimited;
alter session set container = cdb$root;
CREATE USER c##xstrmadmin identified by password default tablespace xstream_tbs quota unlimited on xstream_tbs container = all;
GRANT CREATE SESSION, SET CONTAINER to c##xstrmadmin container = all;
BEGIN
DBMS_XSTREAM_AUTH.GRANT_ADMIN_PRIVILEGE(
grantee => 'c##xstrmadmin ',
privilege_type => 'CAPTURE',
grant_select_privileges => TRUE,
container => 'ALL'
);
END;
xstream_tbs为XStream管理员用户的表空间名,请根据实际规划配置。
/opt/app/oracle/oradata/orcl/xstream_tbs.dbf为CDB中XStream管理员用户的表空间文件,请根据实际规划设置。
PDB1为PDB数据库的名称。
/opt/app/oracle/oradata/ORCLPDB/ORCLPDB1/xstream_tbs.dbf为PDB中XStream管理员用户的表空间文件,请根据实际规划设置。
c##xstrmadmin为XStream管理员用户名,请根据实际规划设置。
password为XStream管理员用户密码,请根据实际规划设置。
需要使用上述XStream管理员用户作为DMDRS同步用户,参考配置数据库同步用户最小权限章节继续配置其他权限。
以XStream管理员用户c##xstrmadmin连接数据库服务器,在CDB容器下执行如下命令。
DECLARE
tables DBMS_UTILITY.UNCL_ARRAY;
schemas DBMS_UTILITY.UNCL_ARRAY;
BEGIN
tables(1) := NULL;
schemas(1) := 'RESOURCES';
DBMS_XSTREAM_ADM.CREATE_OUTBOUND(
server_name => 'xout',
table_names => tables,
source_database => 'PDB1',
schema_names =>schemas
);
END;
配置同步模式为RESOURCES。
以上未捕获系统表操作,不支持DDL同步,如果需要支持DDL同步,参考下述脚本。
server_name出站服务器名称需保证唯一,请根据实际情况设置,本示例名称为"xout"。
tables设置为NULL表示捕获模式下的全部表,如果要指定表,可以配置表名称。
其他具体配置规则,可参考相关Oracle XStream官方手册说明。
上述创建脚本不包含系统表的捕获,DMDRS基于Oracle数据库的系统表解析实现DDL同步,由于XStream默认不捕获SYS模式下的系统表,如果需要DDL同步,需要配置捕获系统模式及相关表,脚本如下。
declare
tables DBMS_UTILITY.UNCL_ARRAY;
schemas DBMS_UTILITY.UNCL_ARRAY;
BEGIN
tables(1) := 'SYS.IND$';
tables(2) := 'SYS.ICOL$';
tables(3) := 'SYS.CDEF$';
tables(4) := 'SYS.CON$';
tables(5) := 'SYS.CCOL$';
tables(6) := 'SYS.COL$';
tables(7) := 'SYS.OBJ$';
tables(8) := 'SYS.TABPART$';
tables(9) := 'SYS.LOBFRAG$';
tables(10) := 'SYS.LOB$';
tables(11) := 'SYS.USER$';
tables(12) := 'SYS.TABCOMPART$';
tables(13) := 'SYS.TABSUBPART$';
tables(14) := 'SYS.PARTCOL$';
tables(15) := 'SYS.SUBPARTCOL$';
tables(16) := 'SYS.PARTOBJ$';
tables(17) := 'SYS.DEFSUBPART$';
tables(18) := 'SYS.COM$';
tables(19) := 'SYS.TAB$';
tables(20) := 'SYS.COLTYPE$';
tables(21) := 'SYS.ATTRIBUTE$';
tables(22) := 'SYS.TYPE$';
tables(23) := 'SYS.COLLECTION$';
tables(24) := 'SYS.IDNSEQ$';
tables(25) := 'SYS.DEFERRED_STG$';
tables(26) := 'SYS.SUM$';
tables(27) := 'SYS.SNAP$';
tables(28) := 'SYS.MLOG_REFCOL$';
tables(29) := 'SYS.MLOG$';
tables(30) := 'SYS.RECYCLEBIN$';
tables(31) := 'SYS.PARTLOB$';
tables(32) := 'SYS.IND_ONLINE$';
tables(33) := 'SYS.ECOL$';
tables(34) := 'SYS.SEG$';
tables(35) := 'SYS.LOBCOMPPART$';
tables(36) := 'SYS.NTAB$';
tables(37) := 'SYS.ATTRCOL$';
schemas(1) := 'RESOURCES';
DBMS_XSTREAM_ADM.CREATE_OUTBOUND(
server_name => 'xout',
table_names => tables,
source_database => 'PDB1',
schema_names =>schemas
);
END;
同时需要设置XStream的capture组件参数"INCLUDE_OBJECTS",以支持对系统表的捕获。
BEGIN
DBMS_CAPTURE_ADM.SET_PARAMETER(
capture_name => 'CAP$_XOUT_1766',
parameter => 'INCLUDE_OBJECTS',
value => 'SYS.IND$, SYS.ICOL$, SYS.CDEF$, SYS.CON$, SYS.CCOL$, SYS.COL$, SYS.OBJ$, SYS.TABPART$, SYS.LOBFRAG$, SYS.LOB$, SYS.USER$, SYS.TABCOMPART$, SYS.TABSUBPART$, SYS.PARTCOL$, SYS.SUBPARTCOL$, SYS.PARTOBJ$, SYS.DEFSUBPART$, SYS.COM$, SYS.TAB$, SYS.COLTYPE$, SYS.ATTRIBUTE$, SYS.TYPE$, SYS.COLLECTION$, SYS.IDNSEQ$, SYS.DEFERRED_STG$, SYS.SUM$, SYS.SNAP$, SYS.MLOG_REFCOL$, SYS.MLOG$, SYS.RECYCLEBIN$, SYS.PARTLOB$, SYS.IND_ONLINE$, SYS.ECOL$, SYS.SEG$, SYS.LOBCOMPPART$, SYS.NTAB$, SYS.ATTRCOL$');
END;
上述capture_name需要在执行CREATE_OUTBOUND完成后,从下述视图查询。
select capture_name from all_capture;
介绍源DMDRS服务和目标DMDRS服务的配置方法。
说明以下DMDRS服务的配置文件仅为示例,在实际应用场景中,请根据实际搭建环境修改配置文件中的参数配置,具体的参数说明和其他功能参数配置请参见《DMDRS参考手册》。
在目标DMDRS服务的配置文件目录,打开并修改exec.xml配置文件,修改后配置文件如下所示。
注意配置文件中的siteid为必配参数,配置时请确保源DMDRS和目标DMDRS服务站点号的唯一性,如果重复,会造成链路中数据复制的混乱。
<?xml version="1.0" encoding="GB18030"?>
<drs>
<base>
<mgr_port>5345</mgr_port>
<siteid>站点号</siteid>
</base>
<exec>
<name>exec_oracle</name>
<login>
<dbtype>Oracle</dbtype>
<server>orcl</server>
<user>DMDRS</user>
<pwd>DMDRS</pwd>
</login>
</exec>
</drs>
在源DMDRS服务的配置文件目录,打开并修改cpt.xml配置文件,修改后配置文件如下所示。
注意配置文件中的siteid为必配参数,配置时请确保源DMDRS和目标DMDRS服务站点号的唯一性,如果重复,会造成链路中数据复制的混乱。
使用XStream管理员用户c##xstrmadmin用户登录
<?xml version="1.0" encoding="GB18030"?>
<drs>
<base>
<mgr_port>5345</mgr_port>
<siteid>站点号</siteid>
</base>
<cpt>
<name>cpt_oracle</name>
<login>
<dbtype>Oracle</dbtype>
<server>orcl</server>
<user>c##xstrmadmin</user>
<pwd>DMDRS</pwd>
<db_name>PDB1</db_name>
<outbound_name>xout</outbound_name>
</login>
<cpt_mask>net_read</cpt_mask>
<send>
<ip>192.168.20.21</ip>
<port>5345</port>
<target_name>exec_oracle</target_name>
<map>
<item>PDB1.RESOURCES.*==RESOURCES.*</item>
</map>
</send>
</cpt>
</drs>
在源DMDRS配置文件中cpt标签下新增如下两个参数:
<login>
<outbound_name>xout</outbound_name>
</login>
<cpt_mask>net_read</cpt_mask>
xout即为上述配置的XStream出站服务器名称。
net_read表示远程读取,启用DMDRS Oracle XStream数据实时同步。
按照服务的运行顺序,启动目标DMDRS服务和源DMDRS服务。
将服务脚本模板TemplateService拷贝到服务脚本目录并修改服务脚本的名称为DrsService。
$ cp TemplateService ../DrsService
打开并修改DrsService服务脚本中的相关配置参数。
$ vi DrsService
INSTALL_HOME=/home/dmdrs/dmdrs5 PROG_DIR=/home/dmdrs/dmdrs5/bin CONF_PATH=/home/dmdrs/dmdrs5/bin/exec.xml EXEC_PROG_NAME=drsvr SERVICE_TYPE_NAME="drs server"
启动目标DMDRS服务。
$ ./DrsService start
将服务脚本模板TemplateService拷贝到服务脚本目录并修改服务脚本的名称为DrsService。
$ cp TemplateService ../DrsService
打开并修改DrsService服务脚本中的相关配置参数。
$ vi DrsService
INSTALL_HOME=/home/dmdrs/dmdrs5 PROG_DIR=/home/dmdrs/dmdrs5/bin CONF_PATH=/home/dmdrs/dmdrs5/bin/cpt.xml EXEC_PROG_NAME=drsvr SERVICE_TYPE_NAME="drs server"
启动源DMDRS服务。
$ ./DrsService start
使用服务脚本启动服务后,需要使用远程控制台对服务中的模块执行启动命令。
启动控制台。
$ ./drcsl cpt.xml
连接源DMDRS服务。
CSL> connect
设置数据库当前最新的日志LSN作为日志解析的起始位置。如需指定归档文件作为起始位置,请参考《DMDRS控制台命令手册》进行设置。
CSL> alter cpt_oracle set lsn
启动源DMDRS服务中的CPT模块。
CSL> start
添加同步表。
将源数据库PDB1容器中RESOURCES模式下所有的表添加同步,并在同步之前把源端表的全量数据装载到目标数据库。
CSL> alter cpt_oracle add table "sch.name='RESOURCES'" drop|create|insert|pdb|"PDB1"
在源数据库RESOURCES模式下所有的表中分别插入数据,如果插入的数据能正确地同步到目标数据库,则表示数据同步成功。
文章
阅读量
获赞
