用.net core 做网站,dede网站迁移步骤,网站建设宣传素材,各大门户网站用什么做的可能很多人都看到过一个线程数设置的理论#xff1a; CPU 密集型的程序 - 核心数 1 I/O 密集型的程序 - 核心数 * 2
不会吧#xff0c;不会吧#xff0c;真的有人按照这个理论规划线程数#xff1f;
线程数和CPU利用率的小测试
抛开一些操作系统#xff0c;计算机原…可能很多人都看到过一个线程数设置的理论 CPU 密集型的程序 - 核心数 1 I/O 密集型的程序 - 核心数 * 2
不会吧不会吧真的有人按照这个理论规划线程数
线程数和CPU利用率的小测试
抛开一些操作系统计算机原理不谈说一个基本的理论不用纠结是否严谨只为好理解一个CPU核心单位时间内只能执行一个线程的指令
那么理论上我一个线程只需要不停的执行指令就可以跑满一个核心的利用率。
来写个死循环空跑的例子验证一下
测试环境AMD Ryzen 5 3600, 6 - Core, 12 - Threads
public class CPUUtilizationTest {public static void main(String[] args) {//死循环什么都不做while (true){}}
}
运行这个例子后来看看现在CPU的利用率 从图上可以看到我的3号核心利用率已经被跑满了
那基于上面的理论我多开几个线程试试呢
public class CPUUtilizationTest {public static void main(String[] args) {for (int j 0; j 6; j) {new Thread(new Runnable() {Overridepublic void run() {while (true){}}}).start();}}
}
此时再看CPU利用率1/2/5/7/9/11 几个核心的利用率已经被跑满
那如果开12个线程呢是不是会把所有核心的利用率都跑满答案一定是会的
如果此时我把上面例子的线程数继续增加到24个线程会出现什么结果呢
从上图可以看到CPU利用率和上一步一样还是所有核心100%不过此时负载已经从11.x增加到了22.xload average解释参考https://scoutapm.com/blog/understanding-load-averages说明此时CPU更繁忙线程的任务无法及时执行。
现代CPU基本都是多核心的比如我这里测试用的AMD 36006核心12线程超线程我们可以简单的认为它就是12核心CPU。那么我这个CPU就可以同时做12件事互不打扰。
如果要执行的线程大于核心数那么就需要通过操作系统的调度了。操作系统给每个线程分配CPU时间片资源然后不停的切换从而实现“并行”执行的效果。
但是这样真的更快吗从上面的例子可以看出一个线程就可以把一个核心的利用率跑满。如果每个线程都很“霸道”不停的执行指令不给CPU空闲的时间并且同时执行的线程数大于CPU的核心数就会导致操作系统更频繁的执行切换线程执行以确保每个线程都可以得到执行。
不过切换是有代价的每次切换会伴随着寄存器数据更新内存页表更新等操作。虽然一次切换的代价和I/O操作比起来微不足道但如果线程过多线程切换的过于频繁甚至在单位时间内切换的耗时已经大于程序执行的时间就会导致CPU资源过多的浪费在上下文切换上而不是在执行程序得不偿失。
上面死循环空跑的例子有点过于极端了正常情况下不太可能有这种程序。
大多程序在运行时都会有一些 I/O操作可能是读写文件网络收发报文等这些 I/O 操作在进行时时需要等待反馈的。比如网络读写时需要等待报文发送或者接收到在这个等待过程中线程是等待状态CPU没有工作。此时操作系统就会调度CPU去执行其他线程的指令这样就完美利用了CPU这段空闲期提高了CPU的利用率。
上面的例子中程序不停的循环什么都不做CPU要不停的执行指令几乎没有啥空闲的时间。如果插入一段I/O操作呢I/O 操作期间 CPU是空闲状态CPU的利用率会怎么样呢先看看单线程下的结果
public class CPUUtilizationTest {public static void main(String[] args) throws InterruptedException {for (int n 0; n 1; n) {new Thread(new Runnable() {Overridepublic void run() {while (true){//每次空循环 1亿 次后sleep 50ms模拟 I/O等待、切换for (int i 0; i 100_000_000l; i) { }try {Thread.sleep(50);}catch (InterruptedException e) {e.printStackTrace();}}}}).start();}}
} 哇唯一有利用率的9号核心利用率也才50%和前面没有sleep的100%相比已经低了一半了。现在把线程数调整到12个看看
单个核心的利用率60左右和刚才的单线程结果差距不大还没有把CPU利用率跑满现在将线程数增加到18
此时单核心利用率已经接近100%了。由此可见当线程中有 I/O 等操作不占用CPU资源时操作系统可以调度CPU可以同时执行更多的线程。
现在将I/O事件的频率调高看看呢把循环次数减到一半50_000_000同样是18个线程 此时每个核心的利用率大概只有70%左右了。
线程数和CPU利用率的小总结
上面的例子只是辅助为了更好的理解线程数/程序行为/CPU状态的关系来简单总结一下 一个极端的线程不停执行“计算”型操作时就可以把单个核心的利用率跑满多核心CPU最多只能同时执行等于核心数的“极端”线程数 如果每个线程都这么“极端”且同时执行的线程数超过核心数会导致不必要的切换造成负载过高只会让执行更慢 I/O 等暂停类操作时CPU处于空闲状态操作系统调度CPU执行其他线程可以提高CPU利用率同时执行更多的线程 I/O 事件的频率频率越高或者等待/暂停时间越长CPU的空闲时间也就更长利用率越低操作系统可以调度CPU执行更多的线程
线程数规划的公式
前面的铺垫都是为了帮助理解现在来看看书本上的定义。《Java 并发编程实战》介绍了一个线程数计算的公式 如果希望程序跑到CPU的目标利用率需要的线程数公式为 公式很清晰现在来带入上面的例子试试看
如果我期望目标利用率为90%多核90那么需要的线程数为
核心数12 * 利用率0.9 * (1 50(sleep时间)/50(循环50_000_000耗时)) ≈ 22
现在把线程数调到22看看结果
现在CPU利用率大概80和预期比较接近了由于线程数过多还有些上下文切换的开销再加上测试用例不够严谨所以实际利用率低一些也正常。
把公式变个形还可以通过线程数来计算CPU利用率 线程数22 / (核心数12 * (1 50(sleep时间)/50(循环50_000_000耗时))) ≈ 0.9
虽然公式很好但在真实的程序中一般很难获得准确的等待时间和计算时间因为程序很复杂不只是“计算”。一段代码中会有很多的内存读写计算I/O 等复合操作精确的获取这两个指标很难所以光靠公式计算线程数过于理想化。
真实程序中的线程数
那么在实际的程序中或者说一些Java的业务系统中线程数线程池大小规划多少合适呢
先说结论没有固定答案先设定预期比如我期望的CPU利用率在多少负载在多少GC频率多少之类的指标后再通过测试不断的调整到一个合理的线程数
比如一个普通的SpringBoot 为基础的业务系统默认Tomcat容器HikariCP连接池G1回收器如果此时项目中也需要一个业务场景的多线程或者线程池来异步/并行执行业务流程。
此时我按照上面的公式来规划线程数的话误差一定会很大。因为此时这台主机上已经有很多运行中的线程了Tomcat有自己的线程池HikariCP也有自己的后台线程JVM也有一些编译的线程连G1都有自己的后台线程。这些线程也是运行在当前进程、当前主机上的也会占用CPU的资源。
所以受环境干扰下单靠公式很难准确的规划线程数一定要通过测试来验证。
流程一般是这样 分析当前主机上有没有其他进程干扰 分析当前JVM进程上有没有其他运行中或可能运行的线程 设定目标 目标CPU利用率 - 我最高能容忍我的CPU飙到多少 目标GC频率/暂停时间 - 多线程执行后GC频率会增高最大能容忍到什么频率每次暂停时间多少 执行效率 - 比如批处理时我单位时间内要开多少线程才能及时处理完毕 …… 梳理链路关键点是否有卡脖子的点因为如果线程数过多链路上某些节点资源有限可能会导致大量的线程在等待资源比如三方接口限流连接池数量有限中间件压力过大无法支撑等 不断的增加/减少线程数来测试按最高的要求去测试最终获得一个“满足要求”的线程数**
而且而且而且不同场景下的线程数理念也有所不同 Tomcat中的maxThreads在Blocking I/O和No-Blocking I/O下就不一样 Dubbo 默认还是单连接呢也有I/O线程池和业务线程池的区分I/O线程一般不是瓶颈所以不必太多但业务线程很容易称为瓶颈 Redis 6.0以后也是多线程了不过它只是I/O 多线程“业务”处理还是单线程
所以不要纠结设置多少线程了。没有标准答案一定要结合场景带着目标通过测试去找到一个最合适的线程数。
可能还有同学可能会有疑问“我们系统也没啥压力不需要那么合适的线程数只是一个简单的异步场景不影响系统其他功能就可以”
很正常很多的内部业务系统并不需要啥性能稳定好用符合需求就可以了。那么我的推荐的线程数是CPU核心数
附录
Java 获取CPU核心数
Runtime.getRuntime().availableProcessors()//获取逻辑核心数如6核心12线程那么返回的是12
Linux 获取CPU核心数
# 总核数 物理CPU个数 X 每颗物理CPU的核数
# 总逻辑CPU数 物理CPU个数 X 每颗物理CPU的核数 X 超线程数# 查看物理CPU个数
cat /proc/cpuinfo| grep physical id| sort| uniq| wc -l# 查看每个物理CPU中core的个数(即核数)
cat /proc/cpuinfo| grep cpu cores| uniq# 查看逻辑CPU的个数
cat /proc/cpuinfo| grep processor| wc -l 如果我的文章对您有帮助请点赞/收藏/关注鼓励支持一下吧❤❤❤❤❤❤ 作者京东保险 蒋信 来源京东云开发者社区 转载请注明来源
