龙源期刊网 http://www.qikan.com.cn
深度学习研究概述
作者：聂振海 贾丹
来源：《科技创新导报》2015年第30期
摘 要：基于“深度神经网络”（DNN，深层神经网络）的机器学习模型，已在语音识别、图像识别和自然语言处理领域取得突破进展。深度学习极大地拓展了机器学习研究领域，并推动人工智能技术取得迅猛发展。深度学习通过多层人工神经网络，从大量的训练数据集中无监督学习，不断地归纳总结并可对新的数据样本做出智能识别和准确预测。 关键词：深度学习 ;人工神经网络 ;机器学习
中图分类号：TP181 ; ; ; ; 文献标识码：A 文章编号：1674-098X（2015）10（c）-0224-02 20世纪80年代末，人工神经网络反向传播算法（BP，反向传播）发明，极大地扩展了机器学习的研究基础，继而推进基于统计模型的机器学习范畴。BP算法允许使用的人工神经网络模型，从大量的统计规律，预测未知事件的训练样本的学习。根据对比的实验结果，基于人工规则的统计模型机器学习方法，结果表明具有相对优越性。基于人工神经网络BP算法，虽然被称为多层感知器，但仍然是一个浅层的模型，只具有一个隐藏层节点。90年代以来，众多基于浅层模型的机器学习算法应运而生，如，支持向量机（SVM），Boosting，最大熵法（LR）等。这些模型的结构通常只包含一个隐层节点（SVM，Boosting），或者不隐藏节点（LR）。在学术研究和工业应用中证明：这些机器学习模型是一个巨大的成功。自2000年以来，随着IT行业的蓬勃发展，智能分析和大数据预测的技术在互联网领域呈现出巨大的市场需求，基于浅层模型的机器学习算法获得不断应用推广。如，移动应用平台的搜索广告系统，谷歌的AdWords广告的点击率估算，网络搜索排序（如雅虎和Bing搜索引擎），垃圾邮件过滤系统，社交媒体上的推荐系统内容推广。
传统的机器学习模式是通过监督学习和半监督学习，人工控制采样数据集的特征，浅层机器学习模型主要负责特征分类或预测。当基于统计模型的特征提取时，特征提取的好坏将成为决定整个系统性能优劣的关键因素。深度学习对机器学习模型和大量的训练数据的本质不同在于，即通过有许多隐藏的多层神经网络中无监督学习出更多隐含的特征，从而提高对数据集的分类或预测的准确性。深度学习模式不同于传统的浅层学习模型：（1）机器模型结构往往多于1层，通常有5层并隐含多层节点;（2）强调无监督学习，通过逐层功能的重要性变换映射出样品从原来特征空间改造成一个新的特征空间表示，使得分类或预测变得容易实现。利用大数据的特点来机器学习，阐明了基于深度学习的方法对比基于人工特征提取规则的传统浅层机器学习方法，更能深刻揭示出数据背后所隐含的丰富信息。
支持深度学习的基础，是因为人类大脑系统确实含有丰富的层次。2006年，多伦多大学的杰弗里·辛顿教授发表了1篇文章，介绍了传统机器学习的突破，即深度学习。（1）基于人工神经网络隐层的学习能力优异的特性，无监督学习更能深刻获取大数据的隐含信息，从而方
深度学习研究概述
