非结构化数据如何由传统存储在线、可靠、有效率地迁移至对象存储?

6回答

SeaskyblueSeaskyblue  售前技术支持 , NetApp
zhuhaiqiangmelody2004赞同了此回答
好问题。这个问题的本质是需要变更存储访问协议。我的建议如下:1、自己做。可以考虑Rclone这个开源工具。2、花钱做。请厂商服务工程师或专业合作伙伴工程师来做。这是最佳选项,不过还有钱来说话。3、并存。老数据保持现有存储和访问方式,新数据直接写入对象存储。这个就要...显示全部

好问题。这个问题的本质是需要变更存储访问协议。我的建议如下:
1、自己做。可以考虑Rclone这个开源工具。
2、花钱做。请厂商服务工程师或专业合作伙伴工程师来做。这是最佳选项,不过还有钱来说话。
3、并存。老数据保持现有存储和访问方式,新数据直接写入对象存储。这个就要看业务部门是否同意了。

收起
 2020-12-06
浏览1126
  • 说的太全面了,基本上就是这三种思路。特别提醒一点的是自己做一定要注意“索引”问题,涉及到迁移后系统访问成功与否。 找厂商做之前一定要把服务谈好,约定好迁移数据的细节问题。请应用开发配合肯定很重要,还有域名设计等问题需要关注一下。
    2020-12-07
floweryflowery  存储解决方案架构师 , SandStone杉岩数据
sandstone赞同了此回答
这个需求比较普遍,所以现在对象存储也提供 NAS 异构的功能,可以把 NAS 中的数据在线迁移到对象存储,在配置 NAS 异构功能时,需要将原有的 NAS 卷挂载到对象存储网关节点,在纳管 NAS 的过程中,对象存储会读取 NAS 中文件的元数据信息,并将其转换为对象存储中的对象属性信息,同时将...显示全部

这个需求比较普遍,所以现在对象存储也提供 NAS 异构的功能,可以把 NAS 中的数据在线迁移到对象存储,在配置 NAS 异构功能时,需要将原有的 NAS 卷挂载到对象存储网关节点,在纳管 NAS 的过程中,对象存储会读取 NAS 中文件的元数据信息,并将其转换为对象存储中的对象属性信息,同时将源文件与桶空间进行映射。

在实际测试中, 3 个节点的对象存储集群,对 1000 万个文件进行纳管只需要 90 分钟,并且无需考虑文件大小。相比之下,使用传统方式迁移 1000 万个 16KB 大小的文件,需要 12 个小时左右的时间。

以上是杉岩 MOS 对象存储的数据迁移方案,考虑到不同客户对 NAS 设备的替代需求存在差异,杉岩提供了不同粒度的纳管选项。客户可选择对整个 NAS 目录进行纳管,也可以只纳管其中的某个子目录,实现增量纳管的功能。

完成纳管后,利用生命周期的转移策略,自动将原有 NAS 中的数据逐步迁移到对象存储中,整个迁移过程业务无感知。

收起
 2020-12-15
浏览872
zhangjunxi570zhangjunxi570  系统分析师 , xjtu
aigoppb赞同了此回答
推荐文件和对象并存的方案。很多厂商的开发是在是在原来软件使用文件系统的文件系统的基础上改造的,因此兼容文件方案。并行方案的好处是迁移迁移工作可以后台进行,在数据库里定义相应的字段标志数据的位置是在目录里还是在对象存储里存储里,这样投产操作很简单,新的数据直接...显示全部

推荐文件和对象并存的方案。很多厂商的开发是在是在原来软件使用文件系统的文件系统的基础上改造的,因此兼容文件方案。并行方案的好处是迁移迁移工作可以后台进行,在数据库里定义相应的字段标志数据的位置是在目录里还是在对象存储里存储里,这样投产操作很简单,新的数据直接写到了对象里,查询原来的数据继续继续访问目录,后台逐渐迁移,特别是特别是考虑原数据体量庞大情况,等待完全迁移再投产时间不太能接受。

收起
 2020-12-09
浏览1014
seposalseposal  系统工程师 , GUOSEN
aigoppb赞同了此回答
没做过传统存储到对象存储的迁移,但做过私有对象存储接口到S3接口的对象存储迁移。 如果希望在线、可靠、有效的迁移,这就是一个系统工程,需要以项目思维并站在业务方角度思考并设计迁移规划方案。 我们的迁移实现了对应用层透明,涉及数十个业务系统,前后总共迁移耗时接近5个...显示全部

没做过传统存储到对象存储的迁移,但做过私有对象存储接口到S3接口的对象存储迁移。

如果希望在线、可靠、有效的迁移,这就是一个系统工程,需要以项目思维并站在业务方角度思考并设计迁移规划方案。

我们的迁移实现了对应用层透明,涉及数十个业务系统,前后总共迁移耗时接近5个月,包括后续的数据抽验核查工作。这里面涉及大量的项目管理技巧使用、大量的沟通,比较耗费精力。

想要 在线、可靠、有效的迁移 ,我们曾经是开发了一个应用,支持应用请求重定向,即实现读写分离,并通过独立线程实现异步数据迁移,保障老数据能读的到、新数据读写都在新的存储资源。随着迁移完成,老数据全部迁移完毕,旁路工具移除,实现对应用透明的架构调整。

但前提是你有人懂业务调用模式,熟悉对象存储产品,具备开发能力。

收起
 2020-12-08
浏览1014
严重同意其他的几个回答,主要需要应用层面对不同存储的访问方式提供支持,包括对数据的完整、可用性做校验。 单纯从存储级别来说,可以提供多种工具来做这种数据迁移,比如DataIQ,可以对数据做标记,跨平台类型迁移数据,监控数据使用情况,如果需要,还可以开发定制的插件以实现特殊的...显示全部

严重同意其他的几个回答,主要需要应用层面对不同存储的访问方式提供支持,包括对数据的完整、可用性做校验。

单纯从存储级别来说,可以提供多种工具来做这种数据迁移,比如DataIQ,可以对数据做标记,跨平台类型迁移数据,监控数据使用情况,如果需要,还可以开发定制的插件以实现特殊的功能!

收起
 2020-12-10
浏览976
zzy3620zzy3620  系统环境管理 , 北部湾银行
这部分的数据迁移,除了存储层面提供支持外,最关键的是需要应用提供支持,应用对于nas文件的访问方式和对象存储的访问方式是完全不同的,因此,需要在应用层面进行新的文件存取路径的关系映射,保证应用可用性才是最终目的。...显示全部

这部分的数据迁移,除了存储层面提供支持外,最关键的是需要应用提供支持,应用对于nas文件的访问方式和对象存储的访问方式是完全不同的,因此,需要在应用层面进行新的文件存取路径的关系映射,保证应用可用性才是最终目的。

收起
 2020-12-03
浏览1178

对象存储选型优先顺序调查

发表您的选型观点,参与即得50金币。

问题状态

  • 发布时间:2020-12-01
  • 关注会员:8 人
  • 问题浏览:2175
  • 最近回答:2020-12-15