异构SAN存储数据迁移技术在银行的应用

林兆华
李沂明>欧广
几十年,并且已经达到了极限。非易失性快速存储器(NVMe)是一种存储协议,旨在加速系统和固态驱动器之间的信息传输,大大提高数据传输速率。
NVMe不仅局限于连接到固态存储芯片:nvmeoffabrics 允许创建超高速存储网络,其延迟可以与直连存储相媲美。
GPU计算
几十年来,中央处理器(CPU)一直为数据中心基础设施提供动力,但摩尔定律正面临物理限制。此外,分析、机器学习和物联网等新的工作负载正在推动对一种新型计算模型的需求,这种模型超过了CPU的能力。图形处理单元(GPU)曾经只用于游戏,但由于它能够并行处理多个线程,所以其运行方式有根本不同。
因此,GPU在现代数据中心到了一席之地,现代数据中心,肩负着挑战人工智能和神经网络的任务。这将导致数据中心架构的一系列转变,从连接网络的方式到冷却方式。
数据中心对几乎所有规模的企业都至关重要,这一点不会改变。然而,部署数据中心的方式和支持技术的数量正在发生根本性的变化,加速这种转变的技术是未来所需要的。
杨广铭上海浦东发展银行总行信息科技部
SAN存储是银行关键业务系统数据集中的主要载体,随着设备更新换代和升级扩容,异构SAN存储间的数据迁移是银行运维人员面临的一项重要工作,选择合适、成熟且高效的异构SAN存储数据迁移技术是项目成功的关键。文章对业界主流的2种异构SAN存储数据迁移技术在银行中的应用进行研究和对比。
异构SAN存储数据迁移
SAN存储是指以FC或iSCSI协议传输数据块的外置磁盘设备,因其具备高带宽、低时延和高可靠性等特点,目前已是银行关键业务系统数据集中存放的主要载体。当银行数据中心因设备老旧需要更新换代或IT基础环境随业务需求发生改变需要升级扩容时,经常会遇到异构存储之间的数据迁移情况。由于银行一般采用年度集中产品招标采购模式,每年度可能都会引入不同品牌SAN存储,不同厂商存储产品的底层技术架构差异极大且互不兼容,因此这种异构SAN存储数据迁移的问题成为数据存储技术领域重要的研究课题之一。由于银行IT系统具有业务连续性、关键业务数据可用性要求高且业务量大等特点,异构SAN存储数据迁移时通常会面临下列挑战:
数据迁移导致系统停机时间过长(有时可能数天),给银行业务运营带来极大不便;
数据迁移过程中存在数据一致性风险;
迁移数据量巨大,有时甚至达到PB级别;
访问存储的系统可能涉及多种操作系统,数据迁移要跨平台操作,环境复杂,发生错误的几率较高。
由此可见,由于银行IT系统7×24h的连续性要求和客户数据重要性,异构存储数据迁移对于银行IT部门来说是一项非常浩大的工程,稍有不慎就会造成难以挽回的损失,保证业务连续性是整个数据迁移过程的核心要求,如何实现迁移数据高可靠性是成败关键。
目前业界主要有2种技术可以在保证业务连续性(即对业务系统“透明”)的前提下实现异构SAN存储数据迁移:①基于主机的数据迁移技术;②基于存储虚拟化的数据迁移技术。
基于主机的数据迁移技术
基于主机的数据迁移工作在主机卷管理器这一层,通过磁盘卷镜像或复制来实现数据迁移。在使用卷管理器进行磁盘管理的主机系统上,当主机发起一个I/O请求之后,必然通过逻辑卷层,卷管理器确认逻辑卷分布的物理磁盘并将I/O请求发往相应的光纤控制卡,光纤控制卡将I/O请求经SAN发给物理磁盘所属所有存储,所有存储分别完成I/O请求后将处理结果反馈给光纤控制卡,光纤控制卡将所有I/O请求的结果返回卷管理器,卷管理器在确认所有逻辑卷分布的物理磁盘I/O请求都反馈成功后通知主机系统I/O请求完成。
基于主机的数据迁移技术正是利用卷管理器的这一功能,在实施数据迁移时先将目标存储的数据盘加入源存储数据盘所在逻辑卷组VG,然后使用卷管理器命令告知应用建立了源盘和目标盘间的镜像关系,即一个逻辑卷的数据同时分布在2个物理数据盘上。这种镜像关系建立后,卷管理器会自动在后台进行二者间差异数据同步,同时主机系统发出的新I/O请求也会由卷管理器发给这2个数据盘。待二者间同步完成后,将源数据盘从VG中删除,这样就完成了整个数据迁移。常用的卷管理器有Symantec的Veritas Volume Manager,UNIX和Linux自带LVM等。
这种数据迁移技术不需要在迁移的源和目的端采用同样的存储设备,具有极大灵活性,但迁移过程中会占用一些主机CPU资源,对主机性能有一定影响。因此,这种方法的可扩充性较差,实际运行性能不是很好。基于主机的迁移方法也有可
能影响主机系统的稳定性和安全性,进而有可能导致越权访问受保护数据。中华情2012
遗作惨剧1里香此外存储厂商EMC公司也有一款Open Migrator软件,同样利用类似主机I/O堆栈管理机制,实现不依赖于存储产品的数据迁移,相比前述操作系统自带的卷管理器,该产品可对整个迁移进程实现精细化控制(包括启停、重发、比较和传输速率设置)和实时监控,但该软件通常只免费提供给购买该公司存储的客户使用。
基于存储虚拟化的数据迁移技术
基于存储虚拟化的数据迁移,通常使用各存储厂商提供的专业软件来实现,例如HPE的OnlineImportUtility、PeerMotion Utility、EMC的Open Replicator、华为的SmartVirtualization和SmartMigration,实现原理是在目标存储上创建与源存储等数量、等容量逻辑卷,并以目标存储控制器作为虚拟存储网关建立2组逻辑卷对应关系进行迁移,迁移过程中,主机仍可通过目标存储访问源存储LUN上存放的数据,依据主机的操作系统、存储多路径软件和集配置的差异,一般可提供在线、最小中断时间和离线3种迁移模式,大致迁移流程如下:
①主机需重新配置兼容目标存储的数据访问多路径软件;
萃取精馏②在目标存储上创建数量和容量与源存储一致的LUN;
③目标存储控制器迁移用端口设置Initiator模式,源存储控制器迁移用端口设置为Target模式,并在SAN交换机上为前述2端口创建1个Zone;
④创建主机到目标存储控制器非迁移用端口的Zone,并将目标存储上的迁移用LUN分配至该端口(Offline Migration 不需要此步骤);
⑤停止主机上所有的业务进程和高可用集,卸载待迁移LUN对应的文件系统,并关机(仅MDM需要
此步骤);
⑥在目标存储的管理服务器上创建和源存储待迁移LUN的映射关系,发起迁移任务;
⑦删除主机到源存储的Zone,主机重新识别和导入目标存储的LUN,重新挂载文件系统和启动业务进程;
⑧通过目标存储管理服务器可实时监控迁移任务,并适时调整迁移任务的带宽QoS;
⑨迁移期间,主机业务程序仍可正常对外服务。当读数据时,先访问目标存储,如未命中,则目标存储控制器会从源存储读取数据至目标LUN,再返回主机。当写数据时,目标存储控制器会先从源存储读取待修改数据至目标LUN,然后直接修改目标LUN上数据并返回主机;
⑩迁移完成后,解除迁移LUN映射关系,删除迁移任务和迁移端口Zone,恢复迁移端口设置,回收源存储已迁移LUN资源。
该数据迁移技术是以存储硬件为基础的、实时的、与应用无关的数据迁移技术,但通常要使用此技术,对目标存储和源存储有兼容性要求,且在数据迁移时目标存储会同时承载与源存储迁移和主机访问的I/O压力。
数据迁移技术的对比
基于主机的数据迁移需要主机耗费额外的CPU资源调度I/O,所以对系统性能影响较大,且在数据迁移中会增加源存储的读I/O负荷、目标存储的写I/O负荷、无法实时监控和调节数据迁移时带宽QoS,进而导致用户进程响应时间降低。但由于该技术使用操作系统自带卷管理器,几乎零成本且不依赖于任何存储型号,故在银行中多被应用于那些IT预算费用较少、数据量较少、联机业务量较小和有长停机维护窗口的业务系统数据迁移项目。
基于存储虚拟化的数据迁移技术不依赖于主机操作系统,增加新操作系统进行数据迁移时可以不增加任何新的投资,迁移方案管理也比较简单,可最大程度保护用户IT投资,达到充分利用资源目的。
同时该数据迁移技术利用SAN进行数据传输,可以最大限度发挥SAN的大数据带宽优势以支持海量数据的多并发迁移。但由于该数据迁移技术都是由存储硬件厂商各自提供,有昂贵的硬件采购成本,且各厂商对于可迁移的源存储型号的支持性都会有明确要求,导致用户在设备采购时选择面太窄,容易提高成本,目前主流存储厂商间的存储型号都能相互兼容,而对于非主流厂商的产品支持性较差。此技术在银行内适用于预算较充足、业务连续性要求较高、联机业务量较大、有海量数据以及关键性程度较高的业务系统数据迁移项目。
异构SAN存储数据迁移是银行运维人员一项重要的日常工作,选择何种数据迁移技术需要综合考虑多方面因素,包括整个项目的预算、所迁移的数据量、系统的业务连续性要求、可实施操作的时间窗口
、系统的关键性程度、源和目标存储是否是同构、联机业务量大小和数据迁移技术是否成熟等。当然,要成功实施一个数据迁移项目,不仅要选择合适、成熟和高效的数据迁移技术,更要通过严密的组织、规划和设计,包括迁移信息收集、迁移可行性分析、迁移风险评估
、迁移方案验证、回退方案制定和迁移实施操作等环节缺一不可。

本文发布于:2024-09-22 13:27:19,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/37835.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:迁移   数据   技术   业务
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议