分布式存储选型关注点?

银行交易类信息系统对io响应延时等要求较高,稍微有延时或抖动将会产生交易超时或缓慢等情况,当前银行业依旧是以传统的集中式存储为主,集中式存储架构稳定可靠、经过多年行业实践验证,未来在向分布式块存储技术路线选型的过程中,重点需要关注哪些难点和注意事项?

参与15

6同行回答

匿名用户匿名用户
分布式存储目前主要分两大类: 块存储(文件系统, 裸设备), 对象存储. 像 NFS 这样只提供, 只提供简单磁盘共享, 缺乏扩展能力的项目, 只能叫集群存储, 而不能算分布式存储.目前基本上不考虑通用型性能的情况下,主要考虑以下几点选型的点。1、支持对象存储, 支持主流编程语...显示全部

分布式存储目前主要分两大类: 块存储(文件系统, 裸设备), 对象存储. 像 NFS 这样只提供, 只提供简单磁盘共享, 缺乏扩展能力的项目, 只能叫集群存储, 而不能算分布式存储.
目前基本上不考虑通用型性能的情况下,主要考虑以下几点选型的点。
1、支持对象存储, 支持主流编程语言
2、支持 HTTP API
3、支持块存储
4、社区成熟, 文档完善

收起
银行 · 2021-12-15
浏览1929
NickJinNickJin解决方案架构师SmartX超融合
如您所说,对于交易系统的存储选型,会关注稳定性、可靠性和高性能,早期都会使用集中存储支撑(FC-SAN),近些年,在硬件红利和高性能协议的加持下,以 SDS 软件定义的分布式存储得到快速发展,并在很多金融机构落地,支撑不同的业务场景。分布式块存储支撑生产数据库的案例也非常普遍。在...显示全部

如您所说,对于交易系统的存储选型,会关注稳定性、可靠性和高性能,早期都会使用集中存储支撑(FC-SAN),近些年,在硬件红利和高性能协议的加持下,以 SDS 软件定义的分布式存储得到快速发展,并在很多金融机构落地,支撑不同的业务场景。分布式块存储支撑生产数据库的案例也非常普遍。在选型过程中,建议关注以下几点:

存储引擎是整个存储系统的核心,分为两个阵容,自研和开源,决定了公司和产品的基因以及对代码的自主可控性,这个在交流和 POC 中,很容易验证出来。

架构可靠性,由于分布式存储从架构上是完全依赖网络做数据同步,需了解产品在不同网络状况下的处理机制,如某一个或几个节点网络断开了,或者形成网络分区,软件的处理机制是怎样的,是否能够符合架构高可用的要求,数据恢复机制等等。

存储性能是一个关键指标,也是很容易量化的,前面说的存储引擎就决定了存储系统元数据管理、IO 路径等技术实现细节,在做基准性能测试后,需要增加一些不同状态下的性能测试,例如节点故障、节点扩容、磁盘亚健康、网络亚健康、拔盘、存储管理服务异常等测试用例,来观察集群的性能表现。

存储协议除 iSCSI 外,是否可以支持新型的 NVMe-oF 高性能协议,是否可以支持 RDMA 技术等新的特性, 分布式存储同时还需要提供丰富的接口,来支持前端的不同计算类型(物理机、虚拟化、容器)。

SDS 软件定义存储可以充分发挥硬件带来的红利,可以关注对新型硬件的支持情况,除标准的硬件外(SATA SSD/NVMe SSD/HDD……),软件如何使用 Optane PMem、RDMA 网卡等高性能硬件。

剩下的就是日常运维监控、软硬件升级、节点扩容、磁盘更换是否足够便利,降低运维复杂度和技术门槛。

收起
软件开发 · 2022-04-18
浏览1344
李静12138李静12138产品解决方案总监星辰天合(北京)数据科技有限公司
1、性能:银行联机交易类业务,对实时响应要求极高,分布式存储相对传统集中式存储,存在多节点间的IO转发,IO路径更长,但随着新技术的快速演进,利用最新的optane、SSD技术、RDMA网络技术等,结合分布式软件架构上的优化,可以实现更低的时延;2、稳定性、可靠性:联机交易系统,随着目前互联...显示全部

1、性能:银行联机交易类业务,对实时响应要求极高,分布式存储相对传统集中式存储,存在多节点间的IO转发,IO路径更长,但随着新技术的快速演进,利用最新的optane、SSD技术、RDMA网络技术等,结合分布式软件架构上的优化,可以实现更低的时延;

2、稳定性、可靠性:联机交易系统,随着目前互联网金融的快速发展,对7*24的服务保障能力提出更高的要求,分布式存储随着近10年的发展,也具备了与传统集中式存储媲美的功能特性,包括快照、双活、复制等能力,可以提供基于盘、节点、机柜、跨机房的容灾保护能力,目前包括华为、XSKY均可以提供满足1~6容灾保护能力;

3、扩展能力:分布式存储具备SCale-out扩展特性,可满足业务系统扩展需求,同时分布式存储支持跨节点的数据流动,因此具备了数据免迁移的设备新旧替换能力,让运维人员摆脱了传统存储的数据迁移的工作烦恼,同时向XSKY等软件定义存储厂商提供软硬解耦方案,可以避免金融企业被某些存储厂商绑定的风险;

4、保护投资,满足公司IT持续演进的需求:不管是分布式存储还是传统集中式存储,都应具备开放的能力,与新的IT技术集成,确保金融企业的IT投资得到保护,如容器应用、国产化平台的演进等;分布式数据库、大数据平台、区块链等新的应用的整合。

关键参数:各种故障情况下的业务安全性是否保障(硬盘,节点,机柜,数据中心RTO,RPO的考虑);

性能是否满足业务需求以及未来增量;

很多功能功能,全协议支持、应用的适配、横向扩展能力、数据流动、生命周期、硬件迭代、协议转换、运维便捷性、API完善透明开放、在线升级等等

收起
软件开发 · 2021-12-21
浏览1852
tsrjzqtsrjzq解决方案架构师英特尔公司
分布式块存储的存储网络一般仍然选择以太网,那么就不可避免的存在着流量混杂,其他流量影响业务流量的情况,从而造成网络抖动。所以分布式块存储的方案需要在网络上有一定的创新,能够避免网络的抖动。 Intel 在网卡端有一项新技术,叫 ADq ,能够在硬件上把不同的应用的流量区分开...显示全部

分布式块存储的存储网络一般仍然选择以太网,那么就不可避免的存在着流量混杂,其他流量影响业务流量的情况,从而造成网络抖动。所以分布式块存储的方案需要在网络上有一定的创新,能够避免网络的抖动。 Intel 在网卡端有一项新技术,叫 ADq ,能够在硬件上把不同的应用的流量区分开来,分别进入不同的队列,高优先级的流量在稳定性、时延和网络表现方面有非常大的提升,在内存数据库的长尾延时方面有十几倍的提升。如果方案应用了 ADq 的话,那网络质量就可以和集中式存储的 FC 网络相比拟了。
除此之外,也要重点关注在大规模数据写入时,系统的缓存层不能承接这么大量数据以后,系统性能是否会明显下降的问题。这个就和系统设计有关系了。

收起
硬件生产 · 2021-12-21
浏览1866
light_hu86light_hu86系统工程师某省金融
1、技术的成熟度和稳定度;2、分布式存储的性能; 3、分布式存储的容错性; 4、相关业务适合的场景的满足度;5、是否支持跨数据中心灾备、数据同步。显示全部

1、技术的成熟度和稳定度;
2、分布式存储的性能;
3、分布式存储的容错性;
4、相关业务适合的场景的满足度;
5、是否支持跨数据中心灾备、数据同步。

收起
银行 · 2021-12-20
浏览1825
JAGXUJAGXU存储运维管理ZTZQ
可靠性、性能、切换时间、时延、成本、场景。显示全部

可靠性、性能、切换时间、时延、成本、场景。

收起
IT咨询服务 · 2021-12-17
浏览1877

提问者

chenmingfu
基础架构组长西部某城商银行
擅长领域: 存储灾备服务器

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2021-12-14
  • 关注会员:7 人
  • 问题浏览:3531
  • 最近回答:2022-04-18
  • X社区推广