大数据平台中hadoop后续演进思路是怎么样的?有没有考虑到迁移到spark?

你好:大数据平台中hadoop后续贵电信的演进思路是怎么样的?有没有考虑到迁移到spark?显示全部

你好:

大数据平台中hadoop后续贵电信的演进思路是怎么样的?有没有考虑到迁移到spark?

收起
参与5

返回朱祥磊的回答

朱祥磊朱祥磊系统架构师某移动公司

随着spark技术越来越成熟,其采用的内存计算的方式,效率比hadoop快10倍,而且文件系统支持建立在hadoop的hdfs上,可从批量处理向实时批量处理过度,我们计划后期hadoop逐步演进为全spark架构,但因为对内存有较高需求,需要对现有机器进行扩容内存,集群中单机内存从现有128G扩容到384G,目前已经在立项中。

电信运营商 · 2016-07-15
浏览1217

回答者

朱祥磊
系统架构师某移动公司
擅长领域: 人工智能云计算容器

朱祥磊 最近回答过的问题

回答状态

  • 发布时间:2016-07-15
  • 关注会员:4 人
  • 回答浏览:1217
  • X社区推广