从2014年下半年开始,证券市场逐渐回暖,日交易资金屡创新高,股民开户数井喷式增长。在证券市场火爆行情的背景下,国内各大券商的IT系统都面临着巨大交易量带来的性能压力, 目前各大券商都在紧锣密鼓地升级自己的证券核心交易系统,以期达到在巨大交易量的压力下为股民提供极速,稳定,低延迟的证券交易体验。IBM作为领先的IT解决方案提供商,正在积极的与全国的各大券商合作,为各大券商提供安全,可靠,高性能的证券核心交易系统的IT基础架构解决方案。
根据贵公司目前的实际情况及需求特点,我们为您的核心交易系统制定了一套采用IBM全闪存阵列(FlashSystem900)配合IBM SAN Volume Controller(SVC)存储虚拟化高可用的解决方案,从而帮助您实现:
1、IBM全闪存阵列的极致性能保证核心交易系统,温备系统,容灾系统能够为客户提供高速,低延迟的交易服务。
2、保证核心交易系统和温备系统的数据高可用性,实现跨存储设备之间和跨物理机柜的本地数据镜像和复制,同时实现本地存储设备的双活。
3、均衡各个存储之间的性能,存储设备不再受制于单个服务器和应用。两个或者多个存储设备能够同时服务于同一个服务器和应用。让每个存储设备的性能都能够充分发挥。
4、加速存储系统性能,消除存储系统性能瓶颈对业务服务等级的制约。
5、提高本地存储的空间使用率,使存储空间能够在多个设备之间实现共享。
6、具备高度扩展性及统一便捷的管理:帮助您实现统一便捷的管理,方便您今后的采购/选型工作及管理工作。
7、降低IT基础架构的总体拥有成本(TCO)。与传统磁盘阵列相比,IBM全闪存阵列可以大幅降低数据中心耗电量,散热量,机柜空间,节省数据中心日常运维成本。
再次感谢您花费宝贵的时间来浏览我们的方案建议,期望能有机会跟您针对方案的详细内容进行更细致的交流,并期待着与您开展真诚的合作。
1.1.1 客户面临的挑战
××证券经过十几年的发展,已经跻身为全国大型综合类券商之一。伴随着企业的发展和证券业务种类的日益丰富,××证券的IT系统规模也在不断的扩大和发展。目前,××证券IT系统运行着“交易核心”,“综合”,“数据仓库”,“清算”,“VMware虚拟化”,“网站”“桌面虚拟化”,“安全”等重要业务系统,IT系统作为业务系统的重要后台支撑,其自身的性能,可靠性和可管理性有着极其严格的要求。同时随着国家金融证券行业改革的深化,对金融券商系统的服务内容、服务方式、服务质量、管理以及服务意识,提出了严峻的挑战。
随着我国证券行业的不断发展和近期牛市行情的来临,证券核心交易系统的地位越发重要。一个安全,稳定,可靠,高性能的证券核心交易系统可以帮助投资者在行情瞬息万变的证券市场里实现投资收益的最大化。最终达到券商和投资者的双赢。
××证券核心交易系统目前面临的问题:
• 核心交易系统使用2台USP-VM存储,每台提供3个节点的数据服务,2台存储设备相互独立。
• 因SAN交换机端口不足,部分核心交易数据库服务器直连存储
• 业务虽然采取分布式部署,但事实上存储仍为单点,一旦任何一台存储设备发生故障,其上的三个节点数据库服务将会停止,从而影响业务运行
1.1.2 客户IT现状
某证券要求通过本次核心交易系统项目的实施,达到以下效果:
根据贵公司的要求,我们为您的核心交易系统制定了一套采用IBM全闪存阵列(FlashSystem900)配合IBM SAN Volume Controller(SVC)存储虚拟化高可用的解决方案,从而帮助您实现:
1、IBM全闪存阵列的极致性能保证核心交易系统,温备系统,容灾系统能够为客户提供高速,低延迟的交易服务。
2、通过SVC VDisk Mirror功能实现核心交易系统和温备系统的数据高可用,实现跨存储设备之间和跨物理机柜的本地数据镜像和复制,同时实现本地存储设备的双活。
3、均衡各个存储之间的性能,存储设备不再受制于单个服务器和应用。两个或者多个存储设备能够同时服务于同一个服务器和应用。让每个存储设备的性能都能够充分发挥。
4、加速存储系统性能,消除存储系统性能瓶颈对业务服务等级的制约。
5、提高本地存储的空间使用率,使存储空间能够在多个设备之间实现共享。
6、具备高度扩展性及统一便捷的管理:帮助您实现统一便捷的管理,方便您今后的采购/选型工作及管理工作。
7、降低IT基础架构的总体拥有成本(TCO)。与传统磁盘阵列相比,IBM全闪存阵列可以大幅降低数据中心耗电量,散热量,机柜空间,节省数据中心日常运维成本。
设备清单及配置列表
业务名称 | 设备名称 | 用途 | 配置 |
---|---|---|---|
核心交易 | IBM FlashSystem900 | 核心交易数据存储 | 可用容量45.6TB 8个16Gb光纤接口 |
核心交易 | IBM FlashSystem900 | 核心交易数据存储 | 可用容量45.6TB 8个16Gb光纤接口 |
核心温备 | IBM FlashSystem900 | 核心温备数据存储 | 可用容量45.6TB 8个16Gb光纤接口 |
核心温备 | IBM FlashSystem900 | 核心温备数据存储 | 可用容量45.6TB 8个16Gb光纤接口 |
灾备 | IBM FlashSystem900 | 灾备数据存储 | 可用容量45.6TB 8个16Gb光纤接口 |
核心交易 | IBM SAN Volume Controller(SVC) | 存储虚拟化,利用SVC VDisk Mirror,双活的功能实现核心交易数据的高可用, | 12个16Gb光纤接口 |
核心温备 | IBM 48口SAN 交换机 F48 | 48存储SAN网络核心交换设备 | 两台F48 SAN交换机,激活48个16Gb光纤口,48根光纤线 |
核心温备 | IBM SAN Volume Controller(SVC) | 存储虚拟化,利用SVC VDisk Mirror,双活的功能实现核心温备数据的高可用, | 12个16Gb光纤接口 |
核心温备 | IBM 48口SAN 交换机 F48 | 存储SAN网络核心交换设备 | 两台 F48 SAN交换机,激活48个16Gb光纤口,48根光纤线 |
灾备 | IBM 48口SAN 交换机 F48 | 存储SAN网络核心交换设备 | 两台 F48 SAN交换机,激活36个16Gb光纤口,36根光纤线 |
1.4.1 SVC+FlashSystem900 基于存储虚拟化平台的性能加速和高可用方案
IBM SVC提供独特的提供独特的VDisk mirror功能,在虚拟化的SAN网络中,通过数据级镜像实现不同存储设备的同步复制功能,从而实现存储高可用HA。通过部署SVC VDM高可用解决方案,可以获得以下好处:
(1) 虚拟卷镜像(VDM)原理说明
虚拟卷镜像特性提供RAID1的功能,每个虚拟磁盘卷具有两份物理的拷贝;采用虚拟卷镜像方式可保证即使一个MDisk失效,虚拟卷仍保持在线并可继续访问。两份拷贝之间通常来自不同的存储池或采用影像模式。具有镜像的虚拟卷还可以进行快照和远程容灾复制,仍具有I/O组及优先节点的属性。
虚拟镜像磁盘下的每份拷贝不是单独的目标,不能脱离虚拟磁盘卷使用,通过父卷及拷贝ID进行标识,Copy ID可以是0或1,其中一个为主拷贝;对虚拟磁盘卷的读只访问主拷贝,写则镜像到两份拷贝,主拷贝角色可进行在线切换,第二份拷贝可以在线添加或删除,系统能够防止删除最后一份拷贝。
第二份拷贝在初始化同步时,以256k的颗粒度进行复制,复制速度可根据虚拟磁盘卷的访问压力灵活调整;在MDisk故障时,会以256k的颗粒度记录两份Copy之间数据差异,并在故障修复后自动进行增量恢复。
利用虚拟卷镜像功能可以灵活的实现在线的数据迁移,普通卷到瘦供给卷、实时压缩数据卷类型的转换,还可以实现拉伸集群等高可用场景。
(2) 卷镜像技术(VDM)I/O数据流向
SVC 卷镜像功能可在不同的存储系统上储存卷的两份副本。在阵列或磁盘系统发生故障或者进行中断性维护时,此功能有助于提高应用程序的可用性。SVC 将会自动使用仍然可用的任一数据副本。
Vdisk Mirror 原理
为清晰说明在核心环境中的I/O数据流向,下面将逐个对读写I/O进行详细描述。
下图所示是SVC VDM架构的逻辑拓扑图。核心系统主机可以通过交换机访问SVC集群。核心应用的每个磁盘,在SVC端都使用VDM技术,将数据同时镜像到后端两个FlashSystem 900上。
Ø 读写I/O操作
当主机发出读I/O操作时,系统上的多路径软件会将I/O发往相对应的SVC节点进行处理。每个SVC上的LUN都有优先node的概念,即所有的读操作由该节点处理,写I/O由该节点镜像到对端节点。
下面我们将System1的LUN为对象,展示SVC是如何处理I/O的读写操作。假设System 1的LUN的优先节点为node1:
读I/O
写I/O
当node1出现故障时,读写I/O会转向node2节点。
(3) I/O组原理说明
SVC节点是成对进行配置的,每对SVC节点形成一个I/O组,每个节点只能归属于1个I/O组,I/O组是在SVC系统配置过程中创建完成的。
SVC虚拟出的每个虚拟磁盘由SVC节点通过SAN映射给主机,每个虚拟磁盘只属于一个I/O组;虚拟磁盘在创建时,可以选择一个SVC节点作为优先节点,如果不手工指定优先节点,系统会自动选择管理虚拟磁盘最少的节点作为优先节点,I/O组内的两个SVC节点互为高可用关系;在AIX平台,多路径软件SDDPCM能够识别虚拟磁盘的优先节点,并通过优先节点访问对应的虚拟磁盘。
一个I/O组包含两个SVC节点,当一个虚拟磁盘接收到写I/O操作时,处理写I/O操作的SVC节点同时将写更新复制到I/O组内的互备节点,在收到互备节点的写确认后(数据镜像到备份SVC节点的数据缓存中),应用的写I/O操作才算完成。
读I/O由接收到请求的SVC节点查询本节点数据缓存后进行响应,如果没有找到,则从后端磁盘读入本地缓存;读缓存能够为I/O访问提供更好的性能。
一个虚拟磁盘的I/O处理,在任何时刻均只能由归属的I/O组进行处理;虽然集群有8个节点,但IO是以I/O组为单位进行处理;增加额外的I/O组就能带来相应的IO处理能力增长,这就意味着SVC有良好的性能扩展能力。
如图所示:
(1)到磁盘卷A的写操作;
(2)通过卷A的优先节点Node1;
(3)写操作本地缓存并镜像写到互备节点Node2;
(4)主机端确认写操作完成,稍后数据回写到存储;
当I/O组内的一个SVC节点失效后,组内的互备节点接管失效节点的IO处理工作;由于写IO操作为两节点间镜像,因此一个节点失效对用户数据不会产生影响。
节点失效后,接管工作任务的SVC节点会将缓存中的写数据回写到磁盘,并进入透写模式,确保数据的可靠性和完整性;后续的写操作直接接入后端存储,直到失效节点被修复。
(4) SVC VDM实施步骤简述
引入SVC Vdisk Mirror方案到现有环境中,对现有环境进行简单改造即可完成SVC Vdisk Mirror的部署。
Ø 系统版本及存储微码准备
1) 检查系统版本兼容表,确认与数据库及各种应用兼容
2) 查阅兼容性,是否需要对现有存储进行微码升级
Ø 主机及存储端操作
1) 根据规划对新购FS900和SVC进行初始化操作
2) 记录下主机端hdisk/vg的对应关系,并在实施前对应用数据进行备份
3) 划分好主机上与SVC的Zoning
4) 划分好FS900与SVC及现有存储的Zoning
5) 在停机窗口时间内,逐个将应用停止服务。在主机端vaoryoff共享卷组,并删除hdisk信息
6) 从生产存储上将现有应用使用的LUN映射给SVC
7) 在SVC端,扫描出现有生产存储映射过来的LUN,并按照现有生产存储LUN与主机hdisk对应关系,批量进行导入操作
8) 磁盘导入完成后,将导入的vdisk分别映射给主机
9) 在主机上扫描磁盘,确认新认出的磁盘信息与之前的相同
10) 启动数据迁移操作,将数据从现有存储上迁移到FS900上
11) 启动应用,执行各种故障模拟测试场景,验证各种故障场景下,存储高可用的效果
1.4.2 部署存储整合和虚拟化平台IBM SVC
打破现有异构存储空间利用不均衡,管理复杂问题。
1)存储设备管理:SVC提供对后端存储设备的查找,管理功能,同时也能对存储设备进行分组管理。并且将虚拟存储磁盘映射到主机。
2)存储虚拟化高级特性:SVC不仅统筹管理各种后端存储设备的资源,并且在存储虚拟化的基础上提供各种高级特性
自动精简配置(Thin-Provision)
空间高效的虚拟磁盘技术(Space-EfficientVirtual Disk)为连接到SVC的所有后端存储设备提供了Thin-Provision特性。只有真正要向磁盘写入数据时,才为其分配物理空间,令实际使用的物理磁盘容量大为减少。此外,Space-Efficient和Flashcopy功能结合,能够减少进行FlashCopy时所需的磁盘空间。
虚拟磁盘镜像(Virtual Disk Mirroring):
虚拟磁盘镜像能够将一个虚拟磁盘的数据同时存储在两台不同的磁盘阵列上,互为备份。其主要用于保护重要数据的安全性和可用性,是一个基于本地的高可靠性解决方案。
虚拟磁盘恢复(Vdisk Recovery):
虚拟磁盘恢复特性能够帮助用户提高灾难恢复的效率,快速恢复虚拟磁盘使其回到在线状态。
SVC在后端通过FC接口连接到新建或现有的SAN环境当中,外部存储视SVC为主机节点:
– SVC内置支持外部存储多路径软件;
– 后端存储不需要购买任何高级功能的 license—SVC提供集成的丰富高效的数据高级复制及优化功能;
– 仅需将后端存储数据卷映射给SVC;
– 业务主机对后端存储的变更、淘汰、替换全无感知-实现业务无间断的存储变更、替换;
支持虚拟化IBM及非IBM存储 (超过120 种 IBM, EMC, HP, HDS,Sun, Dell, NetApp, Fujitsu, NEC, Bull存储产品)
SVC外部存储虚拟化的特点是将外部存储的LUN以两种方式之一纳入SVC的管理。外部存储的LUN,在SVC中被叫做Mdisk,将外部卷导入时有两种模式:
影像模式:将外部存储的LUN进行一对一的导入LUN(Mdisk)=>Pool=>Volume,这样做的好处就是不破坏原有LUN上的数据。将Volume映射给原来的主机以后,并可启动原有的数据库和应用。
受管模式:是将外部存储的一个或者多个LUN加入一个Pool。在Pool上创建Volume时,Volume会以Extent为单位条带划所有的Mdisk(LUN)。这样做的好处是数据分散到足够多的物理磁盘上,以提高性能。
将一组Mdisk(Managed Disk)加入存储池进行管理,虚拟磁盘由Mdisk划分出的Extent为单位创建而成。
如图所示,池内的所有Mdisk划分为同样大小的extent(大小由16MB-8GB可选,缺省为1GB),虚拟磁盘由池中可用的extent创建。根据需要向存储池中添加Mdisk,用于增加新的虚拟磁盘卷或扩充现有的虚拟磁盘。
1.4.3 透明数据迁移,轻松应对存储设备替换和计划内维护
SVC的数据迁移基于Extent,迁移方式有Import和Migration两种。如果迁移时不选择迁入的目标Pool,那么这个两种方式都仅仅是导入(把外部存储的LUN纳入SVC管理)而已,没有任何数据的拷贝或者移动。把数据的拷贝或者移动留给空闲的时间再处理。如果选择了迁入的目标Pool,他们的区别如下:
Import:移动Extent到目标Pool
Migration:先镜像Extent到目标Pool,同步完成后,再手动断开镜像
SVC前端主机连接:
主机系统运行各类应用服务程序,可以与SVC连接,展示给用户物理和虚拟磁盘的情况,使用户可以根据自己的需要搭建环境。一个SVC系统可以和很多主机系统相连,支持各类业务需求。
主机系统主要通过配置端口和SVC系统相连接。用户可以通过命令行和界面生成一个主机(Host),为它添加或删除端口。用户也可以直接修改和删除主机。
主机连接SVC仅需要通过免费的多路径软件即可实现:
– 支持多路径,切换、回切,负载均衡
– 主机只发现SVC,后端存储对主机完全透明
– 后端存储的变更、维修对主机及业务无需任何服务停机窗口
同时用户可自行选择多路径软件,SVC全面兼容:
– IBM SDD (Subsystem Device Driver)
– MPIO
– HP PV-Links
– Symantec DMP
– Native OS drivers: Netwaremultipath driver, VMware ESX, OpenVMS, Tru64, SGI Irix
1.4.4 数据卷空间及性能优化技术
SVC瘦供给卷:SVC可提供GrainSize(颗粒度)为32~256KB的瘦供给卷,瘦供给卷只给真实的数据分配物理空间,这样可提高存储的空间利用率。
SVC压缩卷:SVC的压缩卷是另外一种瘦供给卷,它可对结构化和非结构化数据进行实时压缩和解压而不影响数据读取速度。通过实时压缩技术管理大数据能够最多帮助企业节省高达 80% 的磁盘空间。
SVC瘦供给镜像卷:SVC瘦供给镜像卷是瘦供给卷和镜像卷的特性的组合。它的意义在于实现存储高可用的同时,能节省更多空间。
SVC自动分层:SVC的自动分层技术,可以帮助用户分析的热点数据。 在有SSD层和HDD层Pool中,自动地将热点数据迁移到快速SSD磁盘上,以提高整个系统的性能。
在整个方案设计中我们主要遵循了以下几个思路:
§ 先进性与成熟技术的集合:在设备选型设计中,我们要考虑采用当今业界的流行技术,同时要选用了在众多关键领域中已经得到充分验证的产品,以保证系统的更高的可靠性和可用性;
§ 高效管理的管理性:系统实施以后,对系统的管理越来越重要,IBM所推荐的方案整体的设计思想是利于以后的管理;
§ 性能价格比:保证充分满足用户的性能的同时,考虑最优的性价比;坚持系统建设投资经济合理性的原则;
§ 高可用性:在充分考虑到系统的灵活性的同时,要避免任何的单点故障,以保证系统的可靠和数据的安全;
§ 业务持续性:尽可能避免计划内外的业务中断;
§ 可扩充性:保证购买的主机和存储在以后有足够的扩充性,起到投资保护的作用,具有可扩展性;
§ 开放性与标准化:采用标准的技术以保证与其他厂家的产品相兼容;
§ 产品利用率:考虑现有设备的使用情况,提高产品的利用率。
管理系统风险、提升服务水平、降低总体拥有成本是整个容灾、整合方案的设计战略思想。
新环境的数据的迁移
SVC加入SAN环境后,用户的SAN就转移到虚拟存储网络中了。所有的磁盘存储设备从各自为政变成由SVC统一分配和管理,SVC可以看成是SAN的一部分。在设备管理上,通过SVC的虚拟卷管理功能,首先将所有的磁盘卷交给SVC管理,管理员根据设备的特性,定义了高性能组设备和低成本设备,并根据服务器的需要创建和分配存储。例如当某个服务器对存储空间的需求发生变化时,SVC可以动态的在多个存储设备直接调配存储空间。如果某台服务器的I/O要求突然提高了,可以动态更换虚拟盘VDisk所对应的物理设备。例如,某服务器上的VDisk所原来使用的是“低成本组”的磁盘设备,如果发现性能不够时,可以在不停应用的情况下,透明的将数据转移到“高性能组”。 所有的迁移过程对服务器透明,因此不需要中止应用。按照SVC的功能,将数据整合分为以下几种类型:
1.虚拟化现有的数据
当SAN VC 完全配置好以后,它又可以将原先磁盘上的卷及数据透明的迁移到其他真正的虚拟卷中,如下图所示:
虚拟化已有的数据,如图所示,原先磁盘的数据通过SVC的迁移功能可以透明地条带化到真正的虚拟卷中。
2.在同一存储设备中移植数据
当现有存储设备的配置发生变化或需要对其需要整合时,比如磁盘阵列扩容,需要把数据从36G的磁盘移植到建立在146G磁盘上的Vdisk上时,该功能就可以对现有阵列的扩容的同时而不影响应用。
3.替换现有阵列
SVC对用户的SAN虚拟化后,可以根据需要将数据在不同的存储之间进行透明地移植,如将某一组应用的数据从低性能磁盘移植到新购的高性能阵列而不影响应用和生产,如下图所示:
4.SVC虚拟化与非虚拟化共存
在某些情况下,客户希望某些应用的数据不通过SVC虚拟化,直接由原有的SAN提供给主机,SVC可以支持非虚拟化的卷和虚拟化的卷共存。如下图所示:
5.调整存储空间的利用率
如上描述,SVC在支持对虚拟卷进行在线的移植,扩容。同时SVC还支持对虚拟化卷的缩小,如下图所示(但此功能需要主机操作系统卷管理软件的支持。)
调整存储设备的利用率
通过IBM SVC加入用户系统后,通过上述介绍的SVC数据整合功能,用户可以轻松地根据系统和业务的需要,在新旧存储空间进行数据移植,I/O性能的调配。主要的实施步骤如下:
Ø 现有存储空间的调查,明确目前系统需求。
Ø 新旧存储设备整体规划,数据迁移计划。
Ø 在新旧存储设备之间/不同的存储设备之间/同一存储设备内部进行在线数据移植。
在IBM SVC实施阶段,可以根据用户的具体需求进行数据移植和整合,以及异构存储的远程复制。但数据整合与迁移是一个长期、动态的过程,可以随企业环境、需求的变化而调整。这正是IBM SVC对用户系统虚拟化后给用户带来的优势。
如果觉得我的文章对您有用,请点赞。您的支持将鼓励我继续创作!
赞1
添加新评论0 条评论