深度学习以及关于TensorFlow的简介

深度学习以及关于TensorFlow的简介

什么是深度学习？

对许多机器学习问题来说，特征提取不是一件简单的事情。在一些复杂问题上，要通过人工的方式设计有效的特征集合需要很多的时间和精力，有时甚至需要整个领域数十年的研究投入。例如，假设想从很多照片中识别汽车。现在已知的是汽车有轮子，所以希望在图片中抽取“图片中是否出现了轮子”这个特征。但实际上，要从图片的像素中描述一个轮子的模式是非常难的。虽然车轮的形状很简单，但在实际图片中，车轮上可能会有来自车身的阴影、金属车轴的反光，周围物品也可能会部分遮挡车轮。实际图片中各种不确定的因素让我们很难直接抽取这样的特征。

图1 传统机器学习和深度学习流程对比

图2 深度学习在图像分类问题上的算法流程样例

人工智能、机器学习和深度学习的关系

总的来说，人工智能、机器学习和深度学习是非常相关的几个领域。图3总结了它们之间的关系。人工智能是一类非常广泛的问题，机器学习是解决这类问题的一个重要手段，深度学习则是机器学习的一个分支。在很多人工智能问题上，深度学习的方法突破了传统机器学习方法的瓶颈，推动了人工智能领域的发展。

图3 人工智能、机器学习以及深度学习之间的关系图

图4 “deep learning”最近十年在谷歌搜索的热度趋势。

深度学习的应用

图5展示了历年ILSVRC比赛的情况，从图中可以看到，在深度学习被使用之前，传统计算机视觉的方法在ImageNet数据集上最低的Top5错误率为26%。从2010年到2011年，基于传统机器学习的算法并没有带来正确率的大幅提升。在2012年时，Geoffrey Everest Hinton教授的研究小组利用深度学习技术将ImageNet图像分类的错误率大幅下降到了16%。而且，从2012年到2015年间，通过对深度学习算法的不断研究，ImageNet图像分类的错误率以每年4%的速度递减。这说明深度学习完全打破了传统机器学习算法在图像分类上的瓶颈，让图像分类问题得到了更好的解决。如图5所示，到2015年时，深度学习算法的错误率为4%，已经成功超越了人工标注的错误率（5%），实现了计算机视觉研究领域的一个突破。

图5 历年ILSVRC图像分类比赛最佳算法的错误率

在物体识别问题中，人脸识别是一类应用非常广泛的技术。它既可以应用于娱乐行业，也可以应用于安防、风控行业。在娱乐行业中，基于人脸识别的相机自动对焦、自动美颜基本已经成为每一款自拍软件的必备功能。在安防、风控领域，人脸识别应用更是大大提高了工作效率并节省了人力成本。 比如在互联网金融行业，为了控制贷款风险，在用户注册或者贷款发放时需要验证本人信息。个人信息验证中一个很重要的步骤是验证用户提供的证件和用户是同一个人。通过人脸识别技术，这个过程可以被更加高效地实现。

深度学习在语音识别领域取得的成绩也是突破性的。2009年深度学习的概念被引入语音识别领域，并对该领域产生了巨大的影响。在短短几年时间内，深度学习的方法在TIMIT数据集上将基于传统的混合高斯模型（gaussian mixture model，GMM）的错误率从21.7%降低到了使用深度学习模型的17.9%。 如此大的提高幅度很快引起了学术界和工业界的广泛关注。从2010年到2014年间，在语音识别领域的两大学术会议IEEE-ICASSP和Interspeech上，深度学习的文章呈现出逐年递增的趋势。在工业界，包括谷歌、苹果、微软、IBM、百度等在内的国内外大型IT公司提供的语音相关产品，比如谷歌的Google Now，苹果的Siri、微软的Xbox和Skype等，都是基于深度学习算法。

深度学习在自然语言处理领域的应用也同样广泛。在过去的几年中，深度学习已经在语言模型（language modeling）、机器翻译、词性标注（part-of-speech tagging）、实体识别（named entity recognition，NER）、情感分析（sentiment analysis）、广告推荐以及搜索排序等问题上取得了突出成就。 在机器翻译问题上，根据谷歌的实验结果，在主要的语言对上，使用深度学习可以将机器翻译算法的质量提高55%到85%。表1对比了不同算法翻译同一句话的结果。从表中可以直观地看到深度学习算法带来翻译质量的提高。在2016年9月，谷歌正式上线了基于深度学习的中译英软件。现在在谷歌翻译产品中，所有从中文到英文的翻译请求都是由基于深度学习的翻译算法完成的。

表1 不同翻译算法的翻译效果对比表

TensorFlow：来自Google的深度学习框架

要将深度学习更快且更便捷地应用于新的问题中，选择一款深度学习工具是必不可少的步骤。

TensorFlow是谷歌于2015年11月9日正式开源的计算框架。TensorFlow计算框架可以很好地支持深度学习的各种算法，但它的应用也不限于深度学习。

TensorFlow是由Jeff Dean领头的谷歌大脑团队基于谷歌内部第一代深度学习系统DistBelief改进而来的通用计算框架。DistBelief是谷歌2011年开发的内部深度学习工具，这个工具在谷歌内部已经获得了巨大的成功。

基于DistBelief的ImageNet图像分类系统Inception模型赢得了ImageNet2014年的比赛（ILSVRC）。通过DistBelief，谷歌在海量的非标注YouTube视屏中习得了“猫”的概念，并在谷歌图片中开创了图片搜索的功能。使用DistBelief训练的语音识别模型成功将语音识别的错误率降低了25%。在一次BBC采访中，当时的谷歌首席执行官Eric Schmidt表示这个提高比率相当于之前十年的总和。

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。