基于深度学习的轻量级图像分类实现文献综述

文献综述（或调研报告）：

一、机器学习及卷积神经网络

1.1.机器学习,深度学习：

机器学习是通过计算的手段，学习经验（也可以说是利用经验）来改善系统的性能。 在计算机系统中,经验（Experience）通常是数据（Data）；学习算法（Learning algorithm）学习产生数学模型（Model），不断改善系统性能（Performance）^[1]。

深度学习的概念源于人工神经网络的研究，含多隐层的多层感知器（MLP）就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示（属性类别或特征），以发现数据的分布式特征表示^[2][3]。

1.2.卷积神经网络：

卷积神经网络是一种前馈神经网络，它的基本结构由输入层、卷积层（convolutional layer）、池化层（pooling layer，也称为取样层）、全连接层及输出层构成。卷积层和池化层一般会取若干个，采用卷积层和池化层交替设置，即一个卷积层连接一个池化层，池化层后再连接一个卷积层，依此类推．由于卷积层中输出特征面的每个神经元与 其输入进行局部连接，并通过对应的连接权值与局部 输入进行加权求和再加上偏置值，得到该神经元输入 值，该过程等同于卷积过程。

卷积神经网络则是深度学习中的一种经典而广泛应用的结构． 卷积神经网络的局部连接、权值共享及池化操作等特性使之可以有效地降低网络的复杂度，减少训练参数的数目， 使模型对平移、扭曲、缩放具有一定程度的不变性，并具有强鲁棒性和容错能力，且也易于训练和优化．基于这些优 越的特性，它在各种信号和信息处理任务中的性能优于标准的全连接神经网络^[4][5]。