1、环境
源端数据库:mysql 5.7.31
目标端数据库:oracle 11.2.0.4
源端ogg介质:122022_ggs_Linux_x64_MySQL_64bit
目标端ogg介质:Oracle-GoldenGate-11.2.1.0
注意:
(1)这里源端使用ogg 12.2.0.2的版本,如果使用低版本,抽取进程启动会报600错误
(2)目标端使用11g的版本,使用ogg initial load工具进行初始化,直接加载的方式不支持添加版本参数”FORMAT RELEASE 11.2”,只能使用文件加载方式进行初始化,性能相对较慢。因此,有条件的建议目标端也使用12c版本。
(3)虽然mysql端设置了表名大小写不敏感的参数lower_case_table_names=1,但是ogg对表名大小写依然敏感。
2、源端配置
2.1 Mysql参数权限
与ogg相关的Mysql数据库参数配置
binlog-format=ROW
log-bin=mysql-bin
需要同步的表要先授权
>GRANT INSERT, UPDATE, DELETE,select ON `psd`.`testb` TO 'ogg'@'%';
2.2管理进程:mgr
> view param mgr
PORT 1739
DYNAMICPORTLIST 1740-1838
AUTORESTART EXTRACT *,RETRIES 999,WAITMINUTES 3
STARTUPVALIDATIONDELAY 5
PURGEOLDEXTRACTS ./dirdat/*, USECHECKPOINTS, MINKEEPDAYS 3
LAGREPORTHOURS 1
LAGINFOMINUTES 30
LAGCRITICALMINUTES 45复制
2.3抽取进程:extpr
> view param EXTTS
extract extts
setenv(MYSQL_HOME="/usr/")
sourcedb ogg@196.14.1.1:1306,userid ogg,password ogg
tranlogoptions altlogdest /mysql/data/mdb-bin.index
discardfile ./dirrpt/extts.dsc,append,megabytes 1024
exttrail ./dirdat/ts,format release 11.2
gettruncates
dynamicresolution
table psd_bpm.testb;复制
MYSQL_HOME可以通过执行 show variables like '%basedir%'来确定
tranlogoptions altlogdest配置的是log-bin的index文件,可以通过查看my.cnf配置文件确定,也可以执行 show variables like '%datadir%'来确定
因为目标端ogg为11g版本,需要在exttail参数配置format release 11.2
2.4传输进程:dpepr
> view param DPETS
extract dpets
sourcedb ogg@196.14.1.1:1306,userid ogg,password ogg
rmthost 196.14.1.2,mgrport 1839
rmttrail ./dirdat/ts,format release 11.2
gettruncates
table psd_bpm.testb;复制
因为目标端ogg为11g版本,需要在rmttrail 参数配置format release 11.2
2.5源端初始化参数文件:etsinit
> view param etsinit
SOURCEISTABLE
setenv (NLS_LANG=AMERICAN_AMERICA.AL32UTF8)
sourcedb ogg@196.14.1.1:1306,userid ogg,password ogg
rmthost 196.14.1.2,mgrport 1839
RMTFILE /ogg/dirdat/tsinit,FORMAT RELEASE 11.2, MEGABYTES 1024,PURGE
table psd_bpm.testb;复制
SOURCEISTALBE参数表示初始化加载进程直接从源表抽取数据。
RMTFILE参数配置初始化进程抽取的数据文件存放目标位置,为目标端的位置。目标端版本为11g,这里也要配置FORMAT RELEASE 11.2的选项。
2.6生成def文件
在ogg主目录新建一个rtsdef.prm文件
>vi rtsdef.prm
defsfile ./dirdef/rtsdef.def,purge
sourcedb ogg@196.14.1.1:13306,userid ogg,password ogg
table psd.testb;复制
生成def文件
>./defgen paramfile rtsdef.prm
找到生成的rtsdef.def文件中的内容:
Database type: MYSQL
Character set ID: UTF-8
National character set ID: UTF-16
Locale: en_US
Case sensitivity: 00 00 00 22 22 00 00 00 00 00 00 00 11 00 00 00
TimeZone: CST复制
这里的Case sensitivity表示数据库的表名大小写是否敏感,mysql数据库参数文件配置了lower_case_table_names=1,表示大小写不敏感,这里对应的值就是表名大小写不敏感。但是我们发现ogg 11g入库进程对大小写敏感,mysql端生成的def文件中的表名都是小写,所以我们需要把这个值修改为大小写敏感,其值可以参考oracle生产的def文件。具体配置:
Case sensitivity: 14 14 14 14 14 14 14 14 14 14 14 14 11 14 14 14
这里如果不做修改,入库进程参数文件配置了SOURCEDEFS 参数,启动进程会报找不到表定义。这里应该是ogg 11g的bug,ogg 12c已经修复了该问题,无需修改该值。
Ogg 11g版本不支持TimeZone: CST,我们需要手动删除该值。
3、目标端配置
3.1入库进程repts
> view param REPTS
REPLICAT repts
SETENV(ORACLE_SID = "ffdb")
SETENV (ORACLE_HOME = "/u01/app/oracle/product/11.2/db_1")
setenv (NLS_LANG=AMERICAN_AMERICA.UTF8)
USERID ogg, PASSWORD ogg
REPORT AT 01:59
REPORTCOUNT EVERY 30 MINUTES, RATE
REPERROR DEFAULT, ABEND
SOURCEDEFS ./dirdef/repts.def
DISCARDFILE ./dirrpt/repts.dsc, APPEND, MEGABYTES 1024
DISCARDROLLOVER AT 02:30
GETTRUNCATES
ALLOWNOOPUPDATES
HANDLECOLLISIONS
map psd.testb,target bpm.testb,KEYCOLS(TID);复制
跨版本同步,ogg initial load只能使用文件加载方式,初始化不设置检查点,因此入库进程启动前需要配置HANDLECOLLISIONS参数,忽略错误。
3.2目标端初始化进程repinit
> view param rtsinit
SPECIALRUN
END RUNTIME
USERID ogg, PASSWORD GG_yxcb161
SOURCEDEFS ./dirdef/repts.def
REPERROR DEFAULT,DISCARD
EXTFILE /ogg/dirdat/tsinit
map psd.testb,target bpm.testb,KEYCOLS(TID);复制
SPECIALRUN表示将初始化进程实现为不使用检查点的一次性运行
END RUNTIME表示初始化进程在加载完成后终止
EXTFILE配置源端传过来的初始化数据文件在本地的位置
4、添加并启动进程
4.1添加进程
4.1.1源端
> add extract extts,tranlog,begin now
> add exttrail ./dirdat/ts,extract extts,MEGABYTES 512
> add extract dpets,exttrailsource ./dirdat/ts
> add rmttrail ./dirdat/ts,extract dpets,MEGABYTES 512复制
4.1.2目标端
>add replicat repts,exttrail ./dirdat/ts,nodbcheckpoint复制
4.2启动进程
4.2.1源端
启动抽取和传输进程
>start extract extpr
>start extract dpepr
启动初始化加载工具
>./extract paramfile dirprm/etsinit.prm reportfile ./dirrpt/estinitrp.log
etsinit.prm就是上面配置的初始化参数文件,estinitrp.log为初始化加载日志文件。
跟踪日志estinitrp.log输出:
Report at 2022-03-17 09:38:57 (activity since 2022-03-17 09:38:52)
Output to /ogg/oraogg/dirdat/tsinit:
From Table psd_bpm.testb:
# inserts: 11
# updates: 0
# deletes: 0
# discards: 0复制
看到上面的日志,表示数据已经抽取完成,第一行为完成时间,要记住这个时间,入库进程删除HANDLECOLLISIONS参数就是以这个时间点作为标准,必须在这之后才能删除。
4.2.2目标端
启动初始化加载工具
>./replicat paramfile dirprm/rtsinit.prm reportfile ./dirrpt/rstinitrp.log
加载完成后,启动入库进程
>start replicat repts
跟踪观察入库进程,直到入库到初始化抽取完成时间之后
>info replicat repts
删除入库进程中的HANDLECOLLISIONS参数,并重启入库进程
5、问题解决
Q1:启动抽取进程报 error 600
2022-03-11 10:39:01 ERROR OGG-00146 VAM function VAMRead returned unexpected result: error 600 - VAM Client Report <CAUSE OF FAILURE : Sanity Check Failed for events
WHEN FAILED : While reading log event from binary log
WHERE FAILED : MySQLBinLog Reader Module
CONTEXT OF FAILURE : No Information Available!>.复制
解决方法:源端mysql使用OGG-11.2.0.1,启动抽取进程会报上面的错误,需要升级到12.2.0.2以上版本。
Q2:入库进程启动报ERROR OGG-00303
2022-03-16 17:10:21 ERROR OGG-00303 Problem at line 37. Expecting file, table, or record definition: TimeZone: CST.
2022-03-16 17:10:21 ERROR OGG-01668 PROCESS ABENDING.复制
解决方法:def文件使用12c的defgen生成,ogg 11g不支持TimeZone: CST参数,需要手动删除该行。
Q3:入库进程启动报ERROR OGG-00423
2022-03-14 15:59:01 ERROR OGG-00423 Oracle GoldenGate Delivery for Oracle, repbpm.prm: Could not find definition for psd_bpm.bpm_worklist_cur.
2022-03-14 15:59:01 ERROR OGG-01668 Oracle GoldenGate Delivery for Oracle, repbpm.prm: PROCESS ABENDING.复制
解决方法:修改def文件中的case sensitivity值
Case sensitivity: 00 00 00 22 22 00 00 00 00 00 00 00 11 00 00 00
改为
Case sensitivity: 14 14 14 14 14 14 14 14 14 14 14 14 11 14 14 14
上面的是mysql的,表示大小写不敏感
下面复制oracle的值,表示大小写敏感
Q4:抽取进程无数据生成
抽取进程启动后不报错,trail文件大小不增长
解决方法:表名大小写问题,修改进程中的表名大小写与数据库字典中的一致
Q5:传输进程数据不传输
传输进程启动后不报错,目标端trail文件大小不增长
解决方法:表名大小写问题,修改进程中的表名大小写与数据库字典中的一致
评论
