本文调查分析了多个分布式机器学习平台所使用的设计方法，并提出了未来的研究方向。机器学习，特别是深度学习（DL），最近已经在语音识别、图像识别、自然语言处理、推荐/搜索引擎等领域获得了成功。这些技术在自主驾驶汽车、数字卫生系统、CRM、广告、物联网等方面都存在着非常有...(more)

NamenodeHA原理详解社区hadoop2.2.0release版本开始支持NameNode的HA，本文将详细描述NameNodeHA内部的设计与实现。为什么要NamenodeHA？NameNodeHighAvailability即高可用。NameNode很重要，挂掉会导致存储停止服务，无法进行数据的读写，基于此NameNode的计算（MR，Hive等）也无法完成...(more)

Hadoop是一个由Apache基金会所开发的分布式系统基础架构，他从0.x版本到现在的3.0版本，经历了各种变化。但是变化中有不变的是他的主要功能就是Hdfs（分布式文件存储），Mapreduce（分布式并行计算框架）。其中，Hdfs主要是用来进行文件的存储，他涉及文件存储不同压缩方式，文件存储在各个...(more)

本文将简要介绍Spark机器学习库（SparkMLlib’sAPIs）的各种机器学习算法，主要包括：统计算法、分类算法、聚类算法和协同过滤算法，以及各种算法的应用。你不是一个数据科学家。“根据科技和商业媒体报道，机器学习将防止全球变暖”，显然只有中国的新闻媒体才会发布类似的虚假新闻，可...(more)

ApacheSpark的高性能一定程度上取决于它采用的异步并发模型（这里指server/driver端采用的模型），这与Hadoop2.0（包括YARN和MapReduce）是一致的。Hadoop2.0自己实现了类似Actor的异步并发模型，实现方式是epoll+状态机，而ApacheSpark则直接采用了开源软件Akka，该软件实现了Actor模型...(more)

Common一组由分布式文件系统和通用I/O的组件与接口(序列化,JavaRPC,持久化数据结构)。Avro一种支持高效、跨语言的RPC以及永久化存储数据的序列化系统。MapReduce分布式数据处理模型和执行环境，运行于大型的商用机集群。HDFS分布式文件系统，运行于大型的商用机集群。Pig一...(more)

发个牢骚，搞大数据的也得建设数据仓库吧。而且不管是传统行业还是现在的互联网公司，都需要对数据仓库有一定的重视，而不是谈一句自己是搞大数据的就很厉害了。数据仓库更多代表的是一种对数据的管理和使用的方式，它是一整套包括了etl、调度、建模在内的完整的理论体系。现在...(more)

提起“大数据”就不得不提起有关数据的处理，虽然有人说过大数据在数据质量方面的要求不比传统数据的要求那么严格，当然这也是分场景的断言，但是无论何时数据处理在大数据的生态中始终处于不可缺少的地位，因为数据处理的时效性行，准确性直接影响数据的分析与挖掘，分析的最终结果...(more)

简介大数据是收集、整理、处理大容量数据集，并从中获得见解所需的非传统战略和技术的总称。虽然处理数据所需的计算能力或存储容量早已超过一台计算机的上限，但这种计算类型的普遍性、规模，以及价值在最近几年才经历了大规模扩展。在之前的文章中，我们曾经介绍过有关大数据系...(more)

文|韩海庭本文首发：未央网电影《点球成金》中美国职业棒球联盟比赛刚有起色的奥克兰勇士队便迎来了球队主力被挖走、资金不足的情况，危急之时球队经理借助数学建模对球员进行分析和重新编组，最终使这支烂队获得20局联胜……事实上2014年世界杯期间德国队与SAPMatchInsights...(more)