chenmingfu
作者chenmingfu2020-12-30 10:40
基础架构组长, 西部某城商银行

某银行基于华为高端存储的数据迁移实践之方案设计篇

字数 2377阅读 3175评论 1赞 4

文章简介:

本文以某城商行新一代数据中心建设项目为背景,根据新旧两个数据中心间涉及各类业务系统的虚拟机、数据库文件、非结构化文件的平滑迁移需求,详尽设计跨数据中心系统迁移方案,希望可以为同业进行关键应用系统及数据跨数据中心迁移提供参考。

一、现状分析

(一)数据中心数据库软件版本情况
1、原生产数据中心:业务系统后端数据库软件主要包含Oracle 10g及Oracle 11g两大版本。

2、新生产数据中心:鉴于Oracle 10g及Oracle 11g已经停止原厂标准技术支持服务,为进一步提升业务系统安全稳定运行能力,该银行借助核心业务系统升级建设及新数据中心建设项目契机,统一了全行业务系统后端数据库软件版本基线标准,所有数据库软件统一更新升级至Oracle 19c。

(二)数据中心虚拟化应用情况
原生产数据中心新生产数据中心都统一采用VMware vSphere产品实现计算资源的虚拟化,除部分关键应用系统及数据库运行于Power小型机以外,其余应用系统均运行在VMware ESXI虚拟化资源池中。

原生产数据中心虚拟化资源池主要分布于“HDS G1000”及“IBM DS8870”两大系列存储设备中。

新生产数据中心虚拟化资源池完全分布于“华为 OceanStor 18500F V5”高端全闪存储设备中。

(三)非结构化数据情况
非结构化数据主要包含电子影像票据、录音及录像等文件。

原生产数据中心中此类文件目前统一采用NFS及CIFS协议方式集中存储于“华为OceanStor S6800 V5”NAS集中式存储设备中。

新生产数据中心中此类文件目前统一采用NFS及CIFS协议方式集中存储于“华为OceanStor 18500F V5”高端全闪NAS集中式存储设备中。

二、迁移方案设计

如前所述,该银行存储设备品牌由原生产数据中心的“HDS G1000”、“IBM DS8870”及“华为OceanStor S6800 V5”三大品牌统一集中为新数据中心的“华为OceanStor 18500F V5”全闪系列单一品牌。原存储设备中主要包含虚拟机、数据库文件、非结构化文件等3大类文件。结合跨不同品牌硬件设备实现多种类型文件安全平稳零丢失迁移的需求,制定了如下有针对性的迁移方案:

(一)数据库迁移
因原生产数据中心的数据库版本为Oracle 10g及Oracle 11g,新生产数中心的数据库版本为Oracle 19c,且部分业务系统的数据库操作系统由AIX平台调整为x86平台,本次数据库需实现跨版本跨平台迁移,故RMAN备份恢复技术、DG及ADG数据同步技术无法满足,GoldenGate工具配置复杂,面对120余套业务系统数据库显得过于繁杂,第三方数据迁移工具又涉及成本及技术支持等因素,经过反复比较论证,最终选择了“expdp及impdp工具+NAS转储”方式实现数据库迁移。详细迁移步骤如下所示:

(1)迁移前准备阶段
操作系统定时任务:需要确认操作系统层面root、grid、oracle用户下自动作业任务,如有,可在准备阶段完成自动作业任务,并在目标环境禁用自动作业;

数据库定时任务:需要确认数据库中业务用户的定时任务,并于业务人员进行确认迁移自动定时任务和迁移时间;

NAS数据迁移转储挂载:在源数据库及目标数据库服务器中挂载NAS共享目录,以便进行迁移数据的临时转储;

源库创建目录:创建存放迁移脚本目录,创建本地Dump目录及directory转储目录;

目标库创建目录:创建存放迁移脚本目录,创建本地Dump目录及directory转储目录。

(2)源数据库导出
关闭源库会话及修改job参数:停止操作系统crontab定时任务、停数据库监听、修改1522参数、杀远程会话、修改JOB参数;

数据库导出:执行expdp脚本导出用户所有数据、导出源库对象数(以便进行数据比对)。

(3)目标数据库数据导入
目标库归档清理:清理历史归档日志,释放归档空间;

目标库表空间检查:检查表空间容量是否充足;

数据导入:执行impdp脚本导入用户所有数据

(4)数据比对

(5)无效对象编译

(6)收集统计信息

(二)虚拟机迁移
因原生产数据中心及新生产数据中心都统一采用VMware vSphere产品实现计算资源的虚拟化,故本次采用了“VMware vCenter Converter Standalone工具”实现了所有虚拟机的跨数据中心跨存储设备在线迁移,该迁移技术较为成熟可靠,且效率极高,只要网络带宽满足的情况下,能够快速完成各类虚拟机的在线或关机迁移。

(三)非结构化文件迁移
非结构化数据主要包含电子影像票据、录音及录像等文件,此类文件之前统一采用NFS及CIFS协议方式集中存储于“华为OceanStor S6800 V5”NAS集中式存储设备中,此类文件容量较大、数量较多,通过常规基于主机系统层面很难实现数据跨数据中心跨存储设备迁移。结合业界最佳实践最终采用了“MigrationDirector for NAS存储数据迁移工具+Rsync文件同步工具”实现非结构化文件跨数据中心跨存储的迁移(由华为OceanStor S6800 V5迁移至华为OceanStor 18500F V5全闪系列存储中)。
(MigrationDirector for NAS组网图)

(MigrationDirector for NAS组网图)

(迁移服务器规格)
(迁移服务器规格)

(端口需求)
(端口需求)

三、总结

数据中心迁移是一项涉及存储、操作系统、应用系统、数据库、非结构化文件等不同类型文件的较为复杂的工作,需要灵活应对不同的数据迁移需求,根据不同的迁移对象制定高效可靠的迁移方案。

相关阅读:

某银行基于华为高端存储的数据迁移实践之迁移实施过程和效果篇

某银行基于华为高端存储的数据迁移实践之需求分析及设备选型篇

如果觉得我的文章对您有用,请点赞。您的支持将鼓励我继续创作!

4

添加新评论1 条评论

#Switcher数据库管理员, 某银行
2021-01-12 14:36
请教一下,对于非结构化数据的存储选择,一般目前就两个方向:分布式对象存储,传统集中式存储。贵行在选择存储时,在以下几个方面有过对比么: 1.单位容量价格 2.易用性或者说迁移的改造成本 3.速率 4.可扩展性 能否传授下经验,因为对于图片、影像这些,我个人是偏向于对象存储的,不过也想看看其他产品,感谢。

chenmingfu@Switcher 到没有专门做过这方面的比对测试,不过如果具备系统改造条件,我还是建议选择对象存储,对于非结构化来说,对象存储是个很好的选择,我们是因为当时时间紧迫,没有时间改造

2021-01-15 08:11
Ctrl+Enter 发表

本文隶属于专栏

最佳实践
不同的领域,都有先行者,实践者,用他们的最佳实践来加速更多企业的建设项目落地。