大数据分析平台容器化优势?

传统方式底层借助大数据平台提供计算资源,上层使用分析平台对数据进行分析,分析平台可容器化,而底层原有部署在裸金属上的组件,转换成容器化部署,是有实质性的优势,还是仅仅跟随潮流?...显示全部

传统方式底层借助大数据平台提供计算资源,上层使用分析平台对数据进行分析,分析平台可容器化,而底层原有部署在裸金属上的组件,转换成容器化部署,是有实质性的优势,还是仅仅跟随潮流?

收起

查看其它 2 个回答赵锡漪的回答

1、在另一个问题回答中 “ 应用通过容器部署由K8S调度,对于此类应用的业务连续性要求实现同城双活,异地容灾,需要考虑哪些方面? ” 我提到了,Kubernetes 应用体系的可靠性是考可重复部署的描述文件来保障的,由于所有的部署都可以通过yaml所描述的完成整过程快速复现,因此Kubernetes体系可以实现快速、灵活的业务部署与分布。这对于大数据的动态分布会有一定的帮助。

2、 Stateful Set 的核心意义就在于将存储与计算容器捆绑统一调度。但Stateful Set保障的是计算与存储的同步,并不保障存储的可用,因此 OpenShift 推出了 OpenShift Container Storage (OCS产品)来协助解决这个问题。软定义存储的多副本、备份恢复等手段可以结合Kubernetes来保障业务的连续性要求。 从目前全球技术趋势来看,也有一种猜测大数据平台全面转向容器化的主流方案可能会在不久推出。这是因为随着Kubernetes Native Infrastructure (KNI)框架的整体成熟度不断提高。基于Ironic的裸金属调度整机容器有可能会成为大数据平台构建的基础框架。通过Stateful Set 接近整机容器的调度模式,调度裸金属的大数据节点部署。优势是,在计算资源闲余时间可以将计算资源调度用于其它计算。 但我们仍然面临核心数据的连续性服务能力要求,因为微服务理论中,每个服务的数据都是整体数据模型的小局部供应模型。最终一致性还在核心数据模型上。

3、因此在今天分享的内容中多处提到了如何实现局部小数据模型如何与核心数据模型的同步与快速供应方案。这部分方案其实就是我们现在关注的数据中台,通过隔离局部数据逻辑与核心数据模型,我们通常要分拆成部分核心数据模型的子集,用于面向部分具有共性数据需求的业务上,这部分能力就是数据中台。数据中台相当于过去中间件的数据库连接池,它的实现可以帮助用户进一步解放前端业务的创新能力。借助一些微服务概念,通过蓝绿部署,金丝雀部署等方式,屏蔽数据底层核心逻辑,实现无感知化化面向应急数据源或灾备数据源的目的。从而强化容器化PaaS平台的持续服务能力。并且可以使大数据技术更容器接受一些面向未来的技术创新,使之成为数据多元化处理的引擎。

4、通过Redhat Change Data Capture 这样的技术可以实现复杂/异构/异地/差异逻辑的多数据源同步,从而协助用户实现同城双活、异地双活、异地容灾等需求的实现。并且可以有效帮助前端业务实现屏蔽后端数据技术复杂度。

 2020-04-03
浏览265

回答状态

  • 发布时间:2020-04-03
  • 关注会员:4 人
  • 回答浏览:265