关于我们做网站,品牌商标,建大型门户网站,网站建设投标评分标准1.神经元的个数对结果的影响#xff1a; #xff08;http://cs.stanford.edu/people/karpathy/convnetjs/demo/classify2d.html#xff09; #xff08;1#xff09;神经元3个的时候 #xff08;2#xff09;神经元是10个的时候 神经元个数越多#xff0c;可能会产生…1.神经元的个数对结果的影响 http://cs.stanford.edu/people/karpathy/convnetjs/demo/classify2d.html 1神经元3个的时候 2神经元是10个的时候 神经元个数越多可能会产生过拟合现象。
2.正则化和激活函数
1隐层1的神经元增加一个相当于输入层输入一组参数 2正则化的作用 1惩罚力度对结果的影响 惩罚力度训练的lossr(w) 惩罚力度小的时候模型奇形怪状。 随着浪荡增大测试集的效果更好
2神经元参数个数对结果的影响 64128256512 3激活函数 sigmoid函数当梯度为0斜率为0的时候不进行更新和传播即梯度消失。 所以提出reLu函数变量x0,直接为0.
3.标准化
1数据预处理 把点中心化把实际坐标值-均值。放缩除以标准差 2参数初始化 d,h)矩阵的行和列数 3Drop-out在神经网络的训练过程中在某一次的迭代中每一层随机的按照固定的比例杀死一些神经元不参与后序的更新与传播。杀死的神经元可能会在其他迭代中派上用场。Drop-out是个比例。防止神经网络训练过程太复杂。测试阶段没必要杀死。 过拟合是神经网络的一个大问题。 4 文字作填充、图像作标准化 根据loss值反向传播求出w1,w2,w3
过拟合解决方法drop-out或者relu函数
5.卷积神经网络应用领域
1 (2)应用领域:检测任务、分类与检索、超分辨率重构、医学任务ocr的字体识别、无人驾驶、人脸识别 6.卷积网络与传统网络的区别 NN(神经网络-》CNN卷积神经网络 cnn处理三维数据hwc) 卷积层提取特征池化层压缩特征全连接层用一组权重参数连接起来
5.例子x对应输入数据w代表权重参数蓝色矩阵下面的脚标就代表权重参数。最后的结果总和对应的是绿色矩阵里面的参数。 这个12也代表粉红色的那个331小矩阵的值为12. 也就是内积计算 6.图像颜色通道 1图像颜色通道 R通道、G通道、B通道
2输入数据第三个维度c为3的话过滤器filter的第三个维度也等于3. 如果过滤器k,l,w)(4,4,3)所以原始输入的数据a,b,c)里面a,b)选取也要44这样才能一一对应。 将RGB的值相加 sum0202 最后加上偏置参数b sumb213 所以输出的绿色第一个矩阵是3 (3得到特征图表示 第三个维度指的是深度深度也就是特征图的个数 7.步长与卷积核大小对结果的影响 1步长越大是粗粒度的提取的特征越少。 e.g.6:6代表的是6个过滤器。 e.g.10: 10代表的是10个过滤器。
2图像任务一般是步长为1的然后图像中h,w是一样的提取的特征比较多但是时间效率低。 3卷积核越小越细粒度的提取一般最小的卷积核是3*3 4边缘填充越往边界的点使用的次数越小越往中间的点使用的次数越多。 0只是做一下扩充对最终结果没有影响。填充1圈0也可以填充2圈0也可以看你自己。
8.特征图尺寸计算与参数共享 (1)H2:代表结果H1代表原始的输入F代表过滤器的尺寸2P:代表H长度是两边都要有0 (2)权重参数也就是每个区域选择相同的卷积核计算也就是权重参数。
