深度学习DL与贝叶斯规划学习BPL的对比?

请从内容和使用场景方面对DL和BPL做对比。显示全部

请从内容和使用场景方面对DL和BPL做对比。

收起

返回时东南的回答

时东南时东南  软件架构师 , 外资银行
wcl波波张王磊磊等赞同了此回答

深度学习:
机器学习的分支:深度学习和强化学习。
深度学习是一种机器学习中建模数据的隐含分布的多层表达的算法。换句话来说,深度学习算法自动提取分类中所需要的低层次或者高层次特征。因此深度学习能够更好的表示数据的特征,同时由于模型的层次、参数很多,容量也足够,因此,深度学习模型有能力表示大规模数据,所以对于图像、语音这种特征不明显的棘手问题,反而能够借助深度学习在大规模训练数据上取得更好的效果。而且由于深度学习将特征和分类器结合到一个框架中,用数据去学习特征,在使用中减少了手工提取特征的巨大工作量,因此,不仅仅效果可以更好,而且应用起来也非常方便。因此深度学习在图像识别和语音识别方面获得了巨大的进步。
强化学习,其实,就是一个连续决策的过程,其特点是不给任何数据做标注,仅仅提供一个回报函数,这个回报函数决定当前状态得到什么样的结果(比如“好”还是“坏”),从数学本质上来看,还是一个马尔科夫决策过程。强化学习最终目的是让决策过程中整体的回报函数期望最优。

类人概念学习
深度学习基于大数据通过多层网络实现对“抽象概念”的理解,显然数据越多其效果相对就会越好,但是若没有大数据怎么办?何况人类的知识也是一点点积累的,对于人类来说,即便没有积累,没有相应的专业知识,实际上我们也能“照猫画虎”。从这点上来看,以深度学习为核心的人工智能就远远不及人类,因为人类面对陌生环境依然能够通过学习做出适应变化。因此“类人概念学习”首先就要解决深度学习的这种弊端,即不依赖大数据也能进行自我学习,笔者通常定义为“小样本学习”。
小样本学习的核心就是BPL贝叶斯规划学习(Bayesian Program Learning, BPL).BPL方法是利用参数的先验分布,由小样本信息求来的后验分布,直接求出总体分布。这种方法使用概率去表示所有形式的不确定性,通过概率规则来实现学习和推理过程。

BPL方法的优势:BPL方法观察到的每个训练样例可以增量地降低或升高某假设的估计概率,而其他算法会在某个假设与任一样例不一致时完全去掉该假设。但是BPL方法需要概率的初始知识,当概率预先未知时,可以基于背景知识、预先准备好的数据以及基准分布的假定来估计这些概率。

深度学习DL和贝叶斯规划学习BPL的对比:
DL解决的是计算机“运筹帷幄”的问题,实现的是”要从大量数据形成抽象“,在数据量巨大但较混乱的情况下能发挥优势;BPL解决的是计算机”照猫画虎“的问题,实现的是”仅从一个例子就能形成概念“,在数据量较少而清晰的情况下占领上风。

 2018-02-07
浏览1085
王希瑞 邀答

回答者

时东南软件架构师, 外资银行

回答状态

  • 发布时间:2018-02-07
  • 关注会员:1 人
  • 回答浏览:1085