老赵
作者老赵·2018-09-19 10:56
系统工程师·某保险

金融企业如何使用对象存储解决海量非结构化数据的存储安全、便捷、高效使用等难点分析

字数 2579阅读 2351评论 1赞 6

作为传统行业的金融企业,一方面,因其自身对业务的连续性要求高;另一方面,监管机构持续施压,整个外部环境也对金融企业信息系统的可靠性提出了严苛的要求。因此作为信息系统最末端的存储系统更应注重高可用、高可靠、高性能和高敏捷性的建设!

在金融企业对象存储这个存储细分领域,近几年,随着业务系统积聚的图像、各种文档和音视频文件,无论是在数量还是容量上可以说是呈现“爆炸性”增长的态势,传统的集中式SAN和NAS存储面对千万、亿级数量;PB级容量的海量非结构化数据的存储和管理时已经日益凸显出性能瓶颈。对象存储由于其普遍采用的横向扩展的分布式架构,使其无论是在安全性、容量、性能扩展性上,还是成本上,较之于传统集中式架构的存储都有其特殊的优势!

关于对象存储,社区在之前组织的交流中收到并总结了以下问题,供大家查看:

1、 对象存储在未来微服务、容器等技术下的应用前景如何?

对象存储是未来微服务、容器理想的数据存放目标池,由于对象存储采用Http RESPapi接口,因此微服务或者容器均可以随时随地灵活的在线访问到对象,区别于传统存储它而不用做任何额外的人工操作。

2、 对象存储在企业级的成熟架构有哪些,稳定性和容灾性如何。

对象存储采用新的数据对象访问方法,不再继承传统NAS存储的文件目录树,因此其可以轻松应对海量非结构化的应用场景。目前在企业级的应用范围通常为:数据备份目标池、视屏图像的目标存储、非结构化数据的归档存储、企业网盘的目标存储以及微服务\容器的存储池。这些场景下如果上层应用直接支持对象存储的S3接口,可以支持访问对象存储;如果不具备直接支持S3的访问方式,可以借助IBM GPFS并行文件系统+对象存储的方法。

对象存储由于要满足海量的非结构化应用场景,因此其数据校验方式大多采用纠删码的方式,可以允许更多的容错能力和更好的稳定性,例如IBM COS三站点部署可以允许一个完整站点的故障不影响上层应用的继续使用。同时对象存储提供更灵活的容灾架构:双站点、三站点、以及更多的站点。

3、 对象存储怎么架构,怎么运维,如何确保数据安全?

架构与数据安全参考东莞银行的问题二。关于运维:IBM COS采用三层松耦合架构,仅通过一台Manager管理节点就可以轻松应对整个对象存储的日常使用;当对象存储访问层遇到瓶颈可以在线灵活的扩展accesser访问节点;当对象存储存储节点遇到空间容量问题,可以透明在线灵活扩展slicestor存储节点,数据可以轻松实现重平衡分配。

4、数据量不大的情况,但是又有建设需求的情况下,怎么选型去保障投资的最优利用

尽管对象存储是海量非结构化比较理想的选择,但是大部分客户仍会有“小数据量”的对象存储需求,目前比较实惠的方式是采用全软件的模式:IBM COS仅授权软件许可,硬件客户自己提供,从而降低整个准入成本。

5、对象存储如何应对及解决备份数据异地容灾的应用场景?

关于对象存储作为备份的存储池场景来说,多份备份数据的容灾最好通过备份软件来实现:例如备份软件都提供多份副本以及不同备份池的一级级复制。

6、除了aksk是否有其他的安全手段保证对象存储的安全可控?

对象存储里的桶也有对用户进行授权,即基于角色的访问。另外,数据层面的安全性有纠删码,多副本进行数据保护,多站点部署从容灾角度进一步增强了安全性。此外,对象存储的数据加密,以及数据防篡改等都可以增强数据的安全性。

7、开箱即服务方面: 采用ibm硬件一体机产品的问题。由于ibm内部服务分的太细,导致原本一天可以交付的系统需要等好几周。硬件上架的人不管系统,及网络初始化,等到软件实施配置人员开始操作时发现无法远程连通?

IBM COS是我见过部署最快的存储,顺利加电和网络连接后,只需要几条命令就可以完成部署。平安科技本项目由于涉及到GPFS ESS、跨站点网络调试、带库、COS等多个设备,因此需要多个熟悉相关产品的技术专家一起调试,特别对于涉及到外部环境的网络配置更是不可控的因素,所以本次项目整体感觉时间较长,其实主要花在等待相关资源可用的时间上。

8、ibm的gpfs,cos没有邮件call home机制,导致部件故障时无事件邮件发出,如没有机房配合人工监控只能坐等系统全部失效,无后台连动主动case处理?

本次项目实施初始化实施时,我们现场专家就碰到COS一块硬盘告警的错误,当时他们已经现场报了800保修服务,当COS都配置好后,我们现场实施专家就将该COS上所有的错误和告警清除,因此才会出现你们接手时发现界面无告警而实际有一块故障盘的现象。目前该故障盘已更换,后期所有的硬件告警均可以在系统界面体现。

9、ibm的对象存储key,security key 系统管理员可以任意查看的风险问题?

每个企业一般来讲都会由一套比较成熟完善的密码保护措施,IBM COS的security key可以随时删除和重新生成,因此如果发现万一存在密匙泄露的问题,管理员可以立即删除和重新生成该Key。 另外COS有个特殊的功能,可以关闭List功能,也即就算security key被获取到,只要关闭了list功能,对象也无法看到具体的每个对象。

10、ibm ess ,cos存储本地备件的问题,部件故障了需要一周后才能更换?

ESS\COS产品的本地备件量在今年下半年会逐渐与传统存储的备件量持平,相信未来的备件更换可以在更短的时间内解决。

11、IBM对象存储数据备份机制?

对象存储一般用来应对海量非结构数据或者数据备份目标池,它采用纠删码的方式,其对象元数据同对象数据一起被纠删码切片后存放到各个不同主机上的不同磁盘内,因此它自身不需要做任何数据备份。

关于对象存储存放的用户数据的备份机制来说,一般会从应用程序入手:例如写入两份数据到不同的对象存储上或者对象存储到带库的保护等机制。

12、IBM对象存储最小部署主机数量;

IBM COS对象存储最小的部署主机数量是3

13、IBM对象存储使用纠删码模式有什么缺点和优点;

IBM COS采用唯一的纠删码模式,采用这种模式的最大优点是:更高的数据空间效率和灵活的容错配置(IDA可以根据用户购买的台数以及具体的部署灵活自定义)。唯一不利的场景是应对双站点时必须采用纠删码加镜像模式,该场景的空间利用率是所有场景最低的。

如果觉得我的文章对您有用,请点赞。您的支持将鼓励我继续创作!

6

添加新评论1 条评论

wuwenpinwuwenpin软件开发工程师南京
2018-09-19 22:23
谢谢分享!!!
Ctrl+Enter 发表

作者其他文章

相关文章

相关问题

相关资料

X社区推广