怎么增加网站的权重,报表网站建设,福山区建设工程质量检测站网站,网站购买域名吗目录 一、概念:1、机器学习概念:2、深度学习概念#xff1a; 二、深度学习中f(.)的输入和输出#xff1a;1、输入#xff1a;2、输出#xff1a; 三、三种机器学习任务#xff1a;1、Regression回归任务介绍#xff1a;2、Classification分类任务介绍#xff1a;3、Stru… 目录 一、概念:1、机器学习概念:2、深度学习概念 二、深度学习中f(.)的输入和输出1、输入2、输出 三、三种机器学习任务1、Regression回归任务介绍2、Classification分类任务介绍3、Structured Learning创造性学习 四、机器学习步骤模型训练阶段第一步定义一个含有未知参数的函数以线性函数为例第二步 定义损失函数第三步 寻找最优的w、b使得Loss最小1.梯度下降 五、线性函数和复杂函数1、线性函数定义2、非线性函数定义3、如何表示出Hard Sigmoid函数4、对(四)中案例的深入理解以非线性函数为例5.多特征预测单变量非线性函数 一、概念:
1、机器学习概念:
机器学习 ≈ 训练生成一个函数f(.) 这个函数相当复杂。
例如 2、深度学习概念
机器学习的目的是寻找一个满足需求的函数f(.)但是具体使用什么方式寻找f(.)没有说明。
深度学习为机器学习领域的一个子领域故深度学习给出了寻找函数的方法即通过“神经网络”来训练生成一个函数f(.) 。
例如
二、深度学习中f(.)的输入和输出
1、输入
函数f(.)的输入可以是向量、矩阵、序列根据不同场景使用不同的输入。
向量矩阵图像识别领域一张图片可以转换成矩阵表示序列序列预测、语音辨识、文字翻译领域输入可以转换成序列表示 2、输出
根据不同任务需求f(.)的输出不同。
数值类别分类任务句子、图片翻译任务、图片生成
三、三种机器学习任务
1、Regression回归任务介绍
函数输入过往PM2.5数据以及影响PM2.5的特征值 函数输出预测未来PM2.5的值
2、Classification分类任务介绍
函数输入棋盘中黑子白子位置 函数输出从19*19个选项中选择下一个落子位置
3、Structured Learning创造性学习
函数输出图片、文档等有结构的文件
四、机器学习步骤模型训练阶段
这里以回归任务为例目标是根据2/25日浏览量数据预测2/26日浏览量数据。
第一步定义一个含有未知参数的函数以线性函数为例 以最简单的线性回归函数ybWx为例当然机器学习的函数基本上不会这么简单
函数ybWx即为平时称呼的模型x为函数输入输入的是2/25日浏览量数据y为函数输出输出的是未来2/26日浏览量数据w和b都是超参数初始为位置数在模型训练过程中不断更新参数使得函数的输出值不断精确模型训练阶段的最终目的是训练集训练验证集预测过程不断更新w和b力图训练一个预测效果最优的模型其中w为x的权重b为偏置值
第二步 定义损失函数 损失函数L(b,w)是一个已写好的函数用于模型训练阶段每次更新超参数w和b时都会在验证集上使用该组w和b计算预测值然后比较预测值和真实值的差异(损失)从而衡量本组训练得到的超参数w和b是否能使得模型预测效果最优。
损失函数的输入为超参数b和wLoss越大即表示当前的一组b和w越差Loss越小即表示当前的一组b和w越优秀。
第三步 寻找最优的w、b使得Loss最小
1.梯度下降
使用梯度下降法不断更新w和b使得每次获得一组新的w和b(wn和bn)。
不断执行第二步和第三步使得获得最优的w和b(w和b)。
其中η为学习率用来控制梯度下降的快慢程度也是一个超参数。
五、线性函数和复杂函数
1、线性函数定义 同(五)以最简单的线性回归函数ybWx为例当然机器学习的函数基本上不会这么简单
x为函数输入输入的是2/25日浏览量数据y为函数输出输出的是未来2/26日浏览量数据w和b都是超参数初始为位置数在模型训练过程中不断更新参数使得函数的输出值不断精确模型训练阶段的最终目的是训练集训练验证集预测过程不断更新w和b力图训练一个预测效果最优的模型其中w为x的权重b为偏置值
2、非线性函数定义
线性函数ywxb不管超参数w和b如何变化函数始终是一条直线所以线性函数在处理具有复杂关系的xy时不适用。
对于复杂函数我们可以用简单的蓝色函数Hard Sigmoid函数叠加的方式来获得一个复杂函数如下图所示 对于曲线函数我们可以对曲线每段取微分每个微元看做是一个蓝色函数Hard Sigmoid函数无数个蓝色函数叠加也可以获得任意的曲线函数。
3、如何表示出Hard Sigmoid函数
各种曲线都可以通过蓝色函数(Hard Sigmoid)的叠加来表示那么Hard Sigmoid函数又要如何表示 有一种函数叫做sigmoid函数该函数可以逼近任何的hard sigmoid函数,所以一般使用sigmoid函数来表示hard sigmoid函数。
从sigmoid函数的公式可以看出
通过改变w可以改变函数的斜率通过改变v可以改变函数的位置通过改变c可以改变函数的高度 因此通过不同的sigmoid函数叠加我们可以获得任意的函数曲线。
4、对(四)中案例的深入理解以非线性函数为例
(四)中我们以线性函数ywxb为例假设x和y是线性关系。其中x输入为2/25日浏览量数据y输出为2/26日浏览量数据。而在现实中x和y不可能是简单的线性关系那么函数应该如何表示当然是使用我们的sigmoid函数 进一步设想案例中我们用2/25日浏览量数据预测2/26日浏览量数据属于单特征此时仅有一个输入x和一个输出y如果我们输入数据为多特征即要用2/01~2/25这25天的浏览量预测2/26日浏览量数据函数应如何表示很简单数据中有25个特征每个特征xi与y之间都有一个权重值wi 因此多特征预测单变量的线性函数关系和非线性函数关系表示如下
5.多特征预测单变量非线性函数
下面我们举个例子来深度理解多特征预测单变量非线性函数
