MySQL同步 Oracle表 ogg
由于业务需要需要同步数据Oracle到MySQL使用工具OGG
修改环境变量vi .bash_profile ---需要添加环境变量,否则会报错(./ggsci: error whileloading shared libraries: libnnz10.so: cannot open shared object file: No suchfile or directory.) export LD_LIBRARY_PATH=$ORACLE_HOME/lib:/lib:/usr/lib:/home/oracle/ogg 下载安装包,并解压到相应目录 cd ogg/ ./ggsci ----进入ogg目录,输入./ggsci 进入ogg管理界面 $./ggsci GGSCI (ora203) 1> create subdirs -----创建sub目录 Creating subdirectories under current directory /home/oracle/ogg Parameter files /home/oracle/ogg/dirprm: already exists Report files /home/oracle/ogg/dirrpt: created Checkpoint files /home/oracle/ogg/dirchk: created Process status files /home/oracle/ogg/dirpcs: created SQL script files /home/oracle/ogg/dirsql: created Database definitions files /home/oracle/ogg/dirdef: created Extract data files /home/oracle/ogg/dirdat: created Temporary files /home/oracle/ogg/dirtmp: created Stdout files /home/oracle/ogg/dirout: created 源端建立用户,并赋权限: create tablespace GGS_TBS datafile '/oradata/ora203/ggs_tbs01.dbf' size 30G autoextend on; create user ggs identified by ggs default tablespace GGS_TBS; grant dba to ggs; 源端打开辅助日志 alter database force logging; ----切换到强制记录日志模式 alter database add supplemental log data; ----打开辅助日志 select supplemental_log_data_min from v$database; SUPPLEMENTAL_LOG_DATA_MI ------------------------ YES 各参数文件配置 配置MANAGER 主库、目标库配置: 源端 edit params mgr Port 7809 --DYNAMICPORTLIST 7840-7939 ----添加端口号 --AUTOSTART ER * --AUTORESTART EXTRACT *,RETRIES 5,WAITMINUTES 3 --PURGEOLDEXTRACTS ./dirdat/*,usecheckpoints, minkeepdays 3 --LAGREPORTHOURS 1 --LAGINFOMINUTES 30 --LAGCRITICALMINUTES 45 目标端 edit params mgr Port 7809 --DYNAMICPORTLIST 7840-7939 --AUTOSTART ER * --AUTORESTART EXTRACT *,RETRIES 5,WAITMINUTES 3 --AUTORESTART replicat *,RETRIES 5,WAITMINUTES 2,RESETMINUTES 10 --PURGEOLDEXTRACTS ./dirdat/*,usecheckpoints, minkeepdays 3 --LAGREPORTHOURS 1 --LAGINFOMINUTES 30 --LAGCRITICALMINUTES 45 设置完成后,两端要 start mgr 各重要目录作用 --dirdat 存放Trail与Extract文件 --dirdef 存放defgen工具生成的源和目标库定义文件 --dirprm 存放参数文件 --dirrpt 存放进程报告 --dirpcs 存放进程状态文件 --dirsql 存放sql脚本文件 --dirtmp 存放当事务超过已分配内存,默认存储于此 配置抽取、初始化,定义文件(源端) cd ogg/dirprm ----cd到参数文件目录下 vi exta.prm ----抽取进程 EXTRACT exta USERID ggs, PASSWORD ggs TRANLOGOPTIONS EXCLUDEUSER ggs RMTHOST 10.3.45.237, MGRPORT 7809 ----目标端ip或通信ip RMTTRAIL /home/mysql/ogg/dirdat/ta ----为了使用方便,进程名字可以统一为表a(exta),表b(extb), TABLE wwb.emp; ----用户.表名(小写) vi inita.prm ----初始化进程 EXTRACT inita USERID ggs, PASSWORD ggs RMTHOST 10.3.45.237, MGRPORT 7809, COMPRESS RMTTASK REPLICAT, GROUP inita TABLE wwb.emp; ----用户.表名(小写) vi da.prm ----定义参数文件 defsfile /home/oracle/ogg/dirdef/da.def ----为了使用方便,进程名字可以统一为表a(exta),表b(extb),对应源端表编号 userid ggs,password ggs TABLE wwb.emp; ----用户.表名(小写) vi.ida.prm ----定义参数文件 defsfile /home/oracle/ogg/dirdef/ida.def userid ggs,password ggs TABLE wwb.emp; 两个定义参数文件编辑完成后,要生成定义文件,并拷贝到目标端的 ogg/dirdef 目录下 /home/oracle/ogg/defgen PARAMFILE /home/oracle/ogg/dirprm/ida.prm ------生成定义文件语句,注意路径。生成后把ida.def和da.def拷贝到目标端ogg/dirdef 下 /home/oracle/ogg/defgen PARAMFILE /home/oracle/ogg/dirprm/da.prm 配置应用checkpoint表、进程、初始化(目标端) cd ogg/ ./ggsci GGSCI > edit param ./GLOBALS ----添加checkpoint表 GGSCHEMA wwb CHECKPOINTTABLE wwb.checkpoint ----net3g指同步表的owner GGSCI (standby) 5> dblogin userid ogg Password: Successfully logged into database. GGSCI (standby) 6> add checkpointtable net3g.checkpoint ----然后创建checkpoint表 cd ogg/ cd dirprm/ vi repa.prm ----应用进程 replicat repa sourcedefs /home/mysql/ogg/dirdef/da.def ----对应源端表编号 SOURCEDB net3g,userid root,password a ----net3g指的是要同步表的owner reperror default, discard discardfile ./dirrpt/repa.dsc,APPEND,MEGABYTES 1000 MAP wwb.EMP, TARGET wwb.emp; ----注意大小写!!!!!MAP 后接 用户.表名(大写),空格用户.表名(小写); vi inita.prm ----初始化进程 replicat inita sourcedefs /home/mysql/ogg/dirdef/ida.def SOURCEDB net3g,userid root,password a reperror default, discard discardfile ./dirrpt/inita.dsc,APPEND,MEGABYTES 1000 MAP wwb.EMP, TARGET wwb.emp; ----注意大小写!!!!如上 5、创建存放Trail与Extract文件目录 mkdir -p /home/oracle/ogg/dirdat/ta mkdir -p /home/mysql/ogg/dirdat/ta 添加进程 源数据库 ./ggsci ----在安装ogg目录下执行 dblogin userid ggs, password ggs ----在ggsci下,登录到oracle数据库 add trandata net3g.td_order_relations ----捕获表的信息 add extract initk, sourceistable ----配置Extract初始化提取进程,增加一个extract组(initd);后面的意思是一次性抽取表中所有的信息。(完成后,在目标数据库add replicat...) 目标数据库 ./ggsci ----在安装ogg目录下执行 dblogin sourcedb net3g, userid root, password a ----在ggsci下,登录到mysql数据库 add replicat initk, specialrun ----配置replicat应用进程,增加一个replicat组(initd) 源端添加extract add extract extk,tranlog,begin now add exttrail /home/oracle/ogg/dirdat/tk,extract extk,megabytes 100 add rmttrail /home/mysql/ogg/dirdat/tk,extract extk,megabytes 100 创建replicat: add replicat repk,exttrail /home/mysql/ogg/dirdat/tk,checkpointtable net3g.checkpoint 至此,配置及进程全部完成!!! 源端 ./ggsci GGSCI > info all ----查看进程是否添加完成 Program Status Group Lag at Chkpt Time Since Chkpt MANAGER RUNNING EXTRACT stop EXTA 00:00:00 00:00:00 首先 GGSCI > start exta ----开始抽取进程 GGSCI > info all ----查看进程是否启动 Program Status Group Lag at Chkpt Time Since Chkpt MANAGER RUNNING EXTRACT RUNNING EXTA 00:00:00 00:00:06 其次 GGSCI > start inita ----开始初始化进程 GGSCI > info inita EXTRACT INITA Last Started 2015-09-24 11:24 Status RUNNING Checkpoint Lag Not Available Log Read Checkpoint Table NET3G.TD_FTPPK_LOG 2015-09-24 11:34:49 Record 1 Task SOURCEISTABLE 目标端 GGSCI > info all ----查看目标端进程是否添加完成 GGSCI (ora204) 1> info inita 待初始化进程停止后,开启目标端repa应用 ####### OGG中登陆MYSQL报错解决 GGSCI (bys2.oel.com) 2> dblogin sourcedb oggtest,userid root Password: 2013-08-30 12:03:14 WARNING OGG-00769 MySQL Login failed: . SQL error (2002). Can't connect to local MySQL server through socket '/tmp/mysql.sock' (2). ERROR: Failed to connect to MySQL database engine for HOST localhost, DATABASE , USER root, PORT 3306. GGSCI (bys2.oel.com) 3> exit [oracle@bys2 mysqlogg]$ su - Password: [root@bys2 ~]# ln -s /var/lib/mysql/mysql.sock /tmp/mysql.sock [root@bys2 ~]# exit logout [oracle@bys2 mysqlogg]$ ./ggsci Oracle GoldenGate Command Interpreter for MySQL Version 11.2.1.0.1 OGGCORE_11.2.1.0.1_PLATFORMS_120423.0230 Linux, x86, 32bit (optimized), MySQL Enterprise on Apr 23 2012 04:29:30 Copyright (C) 1995, 2012, Oracle and/or its affiliates. All rights reserved. GGSCI (bys2.oel.com) 1> dblogin sourcedb oggtest,userid root Password: Successfully logged into database.
OGG常用命令总结
stats:查看进程抽取数据情况,用于检测数据丢失问题。 info *:用于检测进程读取文件情况信息。 info all:查看所有增量抽取进程以及增量推送进程 info all,task:用于查看全量抽取进程 stop *:停止进程 stop *!:强行停止进程 kill:杀掉无法停止的进程 start *:启动进程 ( extract 、 replicat ) start/stop mgr:开启/停止 mgr进程 view params *:查看进程所需的配置信息 edit params *:编辑进程所需的配置信息 info exittrail *:查看进程创建时的信息 view report *:查看进程运行时log信息 info credentialstore: 查看配置用户信息,用于用户名、存储密码,为了安全。注意:CredentialSore是 ogg 12c 新特性 add credentialstore:添加配置用户信息文件。 delete credentialstore:删除用户配置文件。 alter credentialstore add user xx* password xx* alias xx* :分别为 用户名 、密码 、别名 alter credentialstore delete user xx* : 删除一个用户信息 dblogin userid xx*,password xx*:数据库登陆,明文 dblogin useridalias xx*:数据库登陆,使用用户的别名alias登陆 alter * ,extseqno 0, extrba 0:extseqno 设置读取文件的位置,extrba 设置读取文件内容位置 add extract e*, tranlog, begin now:创建增量进程—>配置相应的配置文件 add exttrail ./dirdat/xx*,extract e_gessdb,megabytes 100:配置进程 add extract p*,exttrailsource ./dirdat/xx*:创建推送进程—>配置相应的配置文件 add extract i*, sourceistable:创建全量进程—>配置相应的配置文件