网站建设备案优化之看,WordPress文章设置时间免费,网站开发必用代码,亳州市网站建设公司文章目录 一、现象二、解决方案 一、现象
在工作中#xff0c;在机器学习中#xff0c;有时候会看到基学习器 跟 弱学习器#xff0c;会容易混淆#xff0c;所以整理一下
二、解决方案
在机器学习中#xff0c;“基学习器”#xff08;Base Learner#xff09;和“弱… 文章目录 一、现象二、解决方案 一、现象
在工作中在机器学习中有时候会看到基学习器 跟 弱学习器会容易混淆所以整理一下
二、解决方案
在机器学习中“基学习器”Base Learner和“弱学习器”Weak Learner是两个经常使用的概念它们在提升方法Boosting和集成学习中扮演着重要的角色。尽管在日常语境中这两个术语有时被交替使用但它们在技术上有着细微的区别 弱学习器Weak Learner 弱学习器是指那些只有比随机猜测略好的预测能力的模型也就是说它们的预测性能只是略优于纯粹的偶然。在二分类问题中一个弱学习器的准确率应略高于50%。它们通常很简单易于构建但单独使用时性能有限。 基学习器Base Learner 基学习器是一个更通用的概念它可以是弱学习器也可以是强学习器Strong Learner即具有高预测性能的模型。在提升方法中基学习器通常指的是构成集成模型的单个模型无论其性能如何。基学习器可以是决策树、感知机、神经网络或其他任何类型的模型。
区别
性能弱学习器的性能门槛低于基学习器。基学习器可以是弱的也可以是强的而弱学习器则明确指的是性能较差的模型。角色在提升方法中弱学习器是构成整个集成的基础通过串行组合多个弱学习器来构建一个强学习器。而基学习器则是集成模型中的单个模型可以是提升方法中的一个组成部分也可以是其他类型的集成学习算法中的组成部分。
在实际应用中提升算法如AdaBoost、GBDT、XGBoost等通常使用弱学习器作为基学习器因为提升方法的核心思想是通过迭代地关注之前模型错误预测的样本来逐步提升模型的性能。如果使用的基学习器本身已经很强那么提升的效果可能就不明显了。
