网站设计开发人员,快餐小吃加盟方案,珠海网站优化公司,网站文章没有被收录吗2.池化层
根据特征图上的局部统计信息进行下采样#xff0c;在保留有用信息的同时减少特征图的大小。和卷积层不同的是#xff0c;池化层不包含需要学习的参数。最大池化(max-pooling)在一个局部区域选最大值作为输出#xff0c;而平均池化(average pooling)计算一个局部区…2.池化层
根据特征图上的局部统计信息进行下采样在保留有用信息的同时减少特征图的大小。和卷积层不同的是池化层不包含需要学习的参数。最大池化(max-pooling)在一个局部区域选最大值作为输出而平均池化(average pooling)计算一个局部区域的均值作为输出。局部区域池化中最大池化使用更多而全局平均池化(global average pooling)是更常用的全局池化方法。
池化的核通常采用2×2的大小平均池化就是计算2×2范围内的平均值最大池化就是取该范围内的最大值。目前比较常用的是最大池化。在经过池化后原图像的channel是不发生改变的。 池化层的作用
1. 增加特征平移不变性。 2. 减小特征图大小。 3. 最大池化可以带来非线性。 3.激活层 激活层的作用在于将前一层的线性输出通过非线性的激活函数进行处理这样用以模拟任意函数从而增强网络的表征能力。激活层常用的函数包括sigmoid和ReLuRectified-Linear Unit修正线性单元等。激活函数是一些非线性的函数这些函数的特性有所不同 1.sigmoid函数可以将数值压缩到[0, 1]的区间。 2.tanh可以将数值压缩到[-1, 1]的区间。 3.ReLu函数实现一个取正的效果所有负数的信息都抛弃。 4.LeakyReLu是一种相对折中的ReLu认为当数值为负的时候可能也存在一定有用的信息那么就乘以一个系数0.1可以调整或自动学习从而获取负数中的一部分信息。 5.Maxout使用两套参数取其中值大的一套作为输出。 6.ELU类似于LeakyReLu只是使用的公式不同。 以Tensorflow为例学习如何搭建这些层的方法 卷积层tf.nn.conv2d(input, filter, strides, padding) 激活层tf.nn.relu() 池化层tf.nn.max_pool()最大池化
