如果做好招聘网站建设,衡水淘宝的网站建设,网站制作厂家电话多少,关键词规划师前言
如果你对这篇文章感兴趣#xff0c;可以点击「【访客必读 - 指引页】一文囊括主页内所有高质量博客」#xff0c;查看完整博客分类与对应链接。
在机器学习中#xff0c;我们所要优化的问题很多时候难以求导#xff0c;因此通常会采用一些演化算法#xff08;又称零…前言
如果你对这篇文章感兴趣可以点击「【访客必读 - 指引页】一文囊括主页内所有高质量博客」查看完整博客分类与对应链接。
在机器学习中我们所要优化的问题很多时候难以求导因此通常会采用一些演化算法又称零阶优化 / 黑盒优化来近似求解。
这些演化算法通常是根据一些生物的行为置顶有如下分类 本文所要介绍的乌鸦搜索算法 (CSA) 就是其中的一种属于演化算法。 乌鸦搜索算法
乌鸦搜索算法受乌鸦的行为所启发即在乌鸦种群中每只乌鸦都在干三件事
寻找藏食物的地点想要发现其它乌鸦藏食物的地点不想被其它乌鸦发现自己藏食物的地点。
每只乌鸦 iii 在每一轮会选择一只乌鸦 jjj 进行跟踪此时有两种情况
乌鸦 jjj 未发现乌鸦 iii则乌鸦 iii 向乌鸦 jjj 藏食物的地点前进乌鸦 jjj 发现了乌鸦 iii决定进行误导即乌鸦 iii 的位置变成随机位置。
为进一步说明上述过程定义如下符号
向量 xitx_i^{t}xit 表示第 iii 只乌鸦第 ttt 轮的位置memitmem_i^tmemit 表示第 iii 只乌鸦第 ttt 轮的历史最优解APitAP_i^tAPit 表示第 iii 只乌鸦第 ttt 轮的警觉概率flitfl_i^tflit 表示第 iii 只乌鸦第 ttt 轮的跟随步长rir_iri 表示第 iii 只乌鸦的随机概率范围在 (0,1)(0,1)(0,1) 之间。
将 xitx_i^{t}xit 理解为第 ttt 轮搜索到的位置memitmem_i^tmemit 即为到第 ttt 轮时的历史最优解。具体迭代过程如下
一共有 tMAXt_{MAX}tMAX 轮迭代NNN 只乌鸦每一轮迭代遍历每一只乌鸦当遍历到第 iii 只乌鸦时随机选择第 jjj 只乌鸦进行跟踪 如果 rj≥APjtr_j\geq AP_j^trj≥APjt即乌鸦 jjj 未发现则乌鸦 iii 进行如下更新 xit1xitri⋅flit⋅(memjt−xit),x_i^{t1}x_i^tr_i\cdot fl_i^t \cdot (mem_j^t-x_i^t), xit1xitri⋅flit⋅(memjt−xit),如果 rjAPjtr_jAP_j^trjAPjt则 xit1x_i^{t1}xit1 变为随机值 每一轮迭代结束后遍历每一只乌鸦若 f(xit1)f(memit)f(x_i^{t1})f(mem_i^t)f(xit1)f(memit)则更新 memit1xit1mem_i^{t1}x_i^{t1}memit1xit1否则不更新即 memit1memitmem_i^{t1}mem_i^{t}memit1memit。
完整算法如下 参考资料
Learn Crow Search Algorithm Step-by-Step with Example[ESWA22 - Behrouz Samieiyan] Novel optimized crow search algorithm for feature selection