本质上,深度学习提供了一套技术和算法,这些技术和算法可以帮助我们对深层神经网络结构进行参数化——人工神经网络中有很多隐含层数和参数。深度学习背后的一个关键思想是从给定的数据集中提取高层次的特征。因此,深度学习的目标是克服单调乏味的特征工程任务的挑战,并帮助将传统的神经网络进行参数化。

深度学习和一般机器学习之间有何差异?  深度学习 机器学习 第1张

本质上,深度学习供给了一套技能和算法,这些技能和算法能够协助咱们对深层神经网络结构进行参数化——人工神经网络中有许多隐含层数和参数。深度学习背面的一个要害思维是从给定的数据会集提取高层次的特征。因而,深度学习的方针是战胜单调乏味的特征工程使命的应战,并协助将传统的神经网络进行参数化。

现在,为了引进深度学习,让咱们来看看一个更详细的比如,这个比如触及多层感知器(MLP)。

在MLP中,“感知器”这个词或许有点让人困惑,由于咱们并不想只在咱们的网络中运用线性神经元。运用MLP,咱们能够学习凌乱的函数来处理非线性问题。因而,咱们的网络一般由衔接输入和输出层的一个或多个“躲藏”层组成。这些躲藏的层一般有某种S型的激活函数(logs-s形或双曲正切等)。例如,在咱们的网络中,一个逻辑回归单元,回来0-1范围内的接连值。一个简略的MLP看起来就像这样:

 深度学习和一般机器学习之间有何差异? 深度学习 机器学习 第2张

其间y是终究的类标签,咱们回来的是根据输入x的猜测,“a”是咱们激活的神经元,而“w”是权重系数。现在,假如咱们向这个MLP增加多个躲藏层,咱们也会把网络称为“深度”。这种“深度”网络的问题在于,为这个网络学习“好”的权重变得越来越难。当咱们开端练习咱们的网络时,咱们一般会将随机值赋值为初始权重,这与咱们想要找到的“***”处理方案很不相同。在练习过程中,咱们运用盛行的反向传达算法(将其视为反向方式主动微分)来传达从右到左的“过错”,并核算每一个权重的偏导数,然后向本钱(或“过错”)梯度的相反方向跨进。现在,深度神经网络的问题是所谓的“消失梯度”——咱们增加的层越多,就越难“更新”咱们的权重,由于信号变得越来越弱。由于咱们的网络的权重在开端时或许十分糟糕(随机初始化),因而几乎不或许用反向传达来参数化一个具有“深度”的神经网络。

这便是深度学习发挥作用的当地。粗略地说,咱们能够把深度学习看作是一种“聪明”的技巧或算法,能够协助咱们练习这种“深度”神经网络结构。有许多不同的神经网络结构,可是为了持续以MLP为例,让我来介绍卷积神经网络(CNN)的概念。咱们能够把它看作是咱们的MLP的“附加组件”,它能够协助咱们检测到咱们的MLP“好”的输入。

在一般机器学习的运用中,一般有一个要点放在特征工程部分;算法学习的模型只能是和输入数据相同好。当然,咱们的数据集有必要要有足够多的、具有区分才能的信息,但是,当信息被淹没在无含义的特征中,机器学习算法的功能就会遭到严重影响。深度学习的意图是从凌乱的数据中主动学习;这是一种算法,它为咱们供给了具有含义的深层神经网络结构,使其能够更有效地学习。咱们能够把深度学习看作是主动学习“特征工程”的算法,或许咱们也能够简略地称它们为“特征探测器”,它能够协助咱们战胜一系列应战,并促进神经网络的学习。

让咱们在图画分类的布景下考虑一个卷积神经网络。在这里,咱们运用所谓的“接纳域”(将它们幻想成“窗口”),它们会经过咱们的图画。然后,咱们将这些“承受域”(例如5×5像素的巨细)和下一层的1个单元衔接起来,这便是所谓的“特征图”。在这个映射之后,咱们构建了一个所谓的卷积层。留意,咱们的特征检测器基本上是彼此仿制的——它们同享相同的权重。它的主意是,假如一个特征检测器在图画的某个部分很有用,它很或许在其他当地也有用,与此同时,它还答应用不同的方法表明图画的各个部分。

 深度学习和一般机器学习之间有何差异? 深度学习 机器学习 第3张

接下来,咱们有一个“池”层,在这个层中,咱们将咱们的特征映射中的相邻特征削减为单个单元(例如,经过获取***特征,或许对其进行均匀化)。咱们在许多测验中都这样做,终究得出了咱们的图画的几乎不不变的表明方式(切当的说法是“等变量”)。这是十分强壮的,由于不管它们坐落什么方位,咱们都能够在图画中检测到目标。

 深度学习和一般机器学习之间有何差异? 深度学习 机器学习 第4张

本质上,CNN这个附加组件在咱们的MLP中充当了特征提取器或过滤器。经过卷积层,咱们能够从图画中提取有用的特征,经过池层,咱们能够使这些特征在缩放和转化方面有必定的不同。

转载请说明出处
知优网 » 深度学习和一般机器学习之间有何差异?

发表评论

您需要后才能发表评论