可以做ppt的网站有哪些方面,前端简历项目经验包装,东莞企业网站多少钱,中国电信商圈经验分享目录#xff1a; 一、Sigmoid激活函数#xff1a;二、逻辑回归介绍#xff1a;三、决策边界四、逻辑回归模型训练过程#xff1a;1.训练目标#xff1a;2.梯度下降调整参数#xff1a; 一、Sigmoid激活函数#xff1a;
Sigmoid函数是构建逻辑回归模型的重要激活函数 一、Sigmoid激活函数二、逻辑回归介绍三、决策边界四、逻辑回归模型训练过程1.训练目标2.梯度下降调整参数 一、Sigmoid激活函数
Sigmoid函数是构建逻辑回归模型的重要激活函数如下图所示。
二分类问题目标是将模型的输出结果控制在[0,1]的范围内当模型输出结果0.5默认预测结果为0当模型输出结果0.5默认预测结果为1。二分类问题的解决思路是通过构建逻辑回归模型f将二分类问题的输入x映射到Sigmoid函数的输入z上计算输出g再根据g的范围是否大于0.5获得逻辑回归模型的结果即二分类问题的结果。函数的定义域∈R值域∈[0,1]当输入z0时Sogmoid函数输出结果g0.5,默认为结果是0构成二分类问题的第一个类别。当输入z0时Sogmoid函数输出结果g0.5,默认为结果是1构成二分类问题的第二个类别。
二、逻辑回归介绍
逻辑回归用来解决二分类问题。分类问题即模型的输出结果只有有限个回归问题则是无限个二分类问题即模型的输出结果只有两个。
在回归问题的经典案例“肿瘤预测案例”中使用肿瘤尺寸size特征预测该肿瘤是否是恶性肿瘤输出结果只有两种是1或否0。 这时使用线性回归模型就很难拟合训练集 线性回归解决的是回归问题而肿瘤预测案例是一个分类问题准确说是二分类问题因此提出了逻辑回归思想。 逻辑回归模型解决分类问题输入特征或特征集X并输出0~1之间的数字其中拟合曲线通过Sogmoid函数来构造。具体构造流程如下图
第一行解释逻辑回归模型f的构造同线性回归通过输入特征集X输出预测结果f不同点在于f取值范围∈[0,1]。第二三四行解释之前我们介绍了Sigmoid函数的输出g可以很好的解决二分类问题因此我们巧妙地使用了Sigmoid函数来构建逻辑回归模型f解决二分类问题通过将输入特征集X使用线性回归或多项式回归映射到Sigmoid函数的输入z实现Sigmoid函数的输出然后根据Sigmoid函数输出结果是否大于0.5来计算逻辑回归模型的输出f0或1得到二分类问题的结果。第五行解释上述思想整合一下即可得出逻辑回归模型f其中模型的输入是特征集X输出是分类的预测结果0或1。第六行解释当逻辑回归模型的输出结果大于等于0.5时预测值y^为1用上文的例子来讲就是该肿瘤是恶性肿瘤当逻辑回归模型的输出结果小于等于0.5时预测值为0用上文的例子来讲就是该肿瘤不是恶性肿瘤。
三、决策边界
从上文不难得到当Sigmoid函数的输入z大于等于0时即特征集X到z的映射zwxb大于等于0时模型的输出结果是1当Sigmoid函数的输入z小于0时即特征集X到z的映射zwxb小于0时模型的输出结果是0。 这是我们可以提出决策边界的概念使得模型输入X到Sigmoid函数输入z的映射等于0的方程叫做决策边界。
以上述肿瘤预测模型为例模型输入X到Sigmoid函数输入z的映射为zwxb那么决策边界就是wxb0。
下面让我们用图像来展示决策边界的意义 例1映射为线性函数 上图展示了训练集中特征x1、x2不同取值时标签的真实值其中圈代表该样本分类结果为0叉代表该样本分类结果为1。 逻辑回归模型如上图其中模型输入X到Sigmoid函数输入z的映射为zw1x1w2x2b,则决策边界为w1x1w2x2b0。若模型训练结果为w11,w21,b-3时决策边界为x1x2-30,决策边界的函数图像如上图所示可以看到如果样本的特征位于决策边界左侧逻辑回归预测时0反之为1这就是决策边界的图像意义。 例2映射为多项式函数 模型输入X到Sigmoid函数输入z的映射为多项式函数,决策边界如图可以看到模型训练完成后参数值确定了决策边界也立即就确定了这时样本的特征相对决策边界的位置决定了该样本的预测结果。
四、逻辑回归模型训练过程
其实和线性回归训练过程一样只不过是待训练模型函数不同而已。
1.训练目标 2.梯度下降调整参数
