全连接神经网络

概念及应用场景

全连接神经网络是一种深度学习模型，也被称为多层感知机（MLP）。它由多个神经元组成的层级结构，每个神经元都与前一层的所有神经元相连，它们之间的连接权重是可训练的。每个神经元都计算输入的加权和，并通过一个非线性激活函数进行转换，然后将结果传递到下一层。

全连接神经网络在图像分类、语音识别、机器翻译、自然语言处理等领域经常使用。例如，在图像分类中，网络的输入是原始图像像素值，输出是所有可能的类别的概率分布。在自然语言处理中，网络的输入是分词后的文本，输出是文本的情感分析、机器翻译等。

全连接神经网络可以通过反向传播算法进行训练，以优化连接权重和偏置项。同时，全连接神经网络的模型结构可以通过添加或删除层级和神经元的方式进行优化，以适应不同的应用场景。

全连接神经网络基本框架：

输入层、隐藏层、输出层

卷积神经网络

概念及应用场景

卷积神经网络（Convolutional Neural Network, CNN）是一种深度学习算法，主要用于图像和视频等多维数据的处理和分析，通过卷积层、池化层、全连接层等网络层的堆叠，从原始数据中提取特征，实现图像分类、目标检测、分割和识别等任务。

CNN在图像处理领域有着广泛的应用，如人脸识别、自动驾驶、医学影像分析等领域。此外，CNN也可应用于自然语言处理领域，如文本分类、情感分析等任务。

CNN通过多层卷积和池化层，从原始数据中提取特征，具有良好的特征提取和抽象能力。同时，卷积层和池化层的参数共享机制，大大减少了神经网络的训练参数和计算量，提高了神经网络的效率和准确率。

总之，CNN具有广泛的应用场景，是深度学习领域的重要算法之一。

卷积神经网络（CNN）基本框架

直观来看，传统网络像是二维图像、卷积神经网络像是三维图像。

对比可知，传统神经网络的输入数据属于数据点的输入（如235个特征点，一个特征向量），而卷积神经网络是图像的输入（如234*214的像素矩阵，或者说是图像）

对于卷积神经网络，不会再将数据转换成向量进行处理，而是直接使用三维空间中的信息（张量）进行直接处理。

卷积神经网络的整体架构：

架构图

输入层

图像数据输入

卷积层

提取特征

池化层

压缩特征

全连接层

通过一个权重参数，将输入层和其它层连接在一起

卷积

1、 首先对图像进行分割，分割成许多小模块，为后面的特征提取做准备。

2、选取一个h*w*c的区域，提取一个特征，继续向后移动。

对于RGB图像，往往需要对不同的颜色层进行卷积，然后最后进行合并。

池化层对数据特征进行压缩。