南京手机网站设计哪里专业,o2o的典型电子商务平台,池州最好的网站建设,中劳网做网站LoadBalancer 概念常见的负载均衡策略使用随机选择的负载均衡策略创建随机选择负载均衡器配置 Nacos 权重负载均衡器创建 Nacos 负载均衡器配置 自定义负载均衡器(根据IP哈希策略选择)创建自定义负载均衡器封装自定义负载均衡器配置 缓存 概念
LoadBalancer(负载均衡器)是一种… LoadBalancer 概念常见的负载均衡策略使用随机选择的负载均衡策略创建随机选择负载均衡器配置 Nacos 权重负载均衡器创建 Nacos 负载均衡器配置 自定义负载均衡器(根据IP哈希策略选择)创建自定义负载均衡器封装自定义负载均衡器配置 缓存 概念
LoadBalancer(负载均衡器)是一种网络设备或软件机制, 用于分发传入的网络流量负载(请求)到多个后端目标服务器上, 从而实现系统资源的均衡利用和提高系统的可用性和性能 负载均衡分为服务器端负载均衡和客户端负载均衡
服务器端负载均衡是指放在服务器端的负载均衡器(反向代理), 如: Nginx, HAProxy, F5等客户端负载均衡器是指嵌套在客户端的负载均衡器(正向代理), 如: Ribbon, Spring Cloud LoadBalancer等
服务器端负载均衡器所有请求都会发送到服务器端, 就会造成服务器端压力大的情况
常见的负载均衡策略
轮询(默认): 按照顺序将请求发送到服务器随机选择: 随机选择一个服务器处理请求最少连接: 选择连接数最少的一个服务器IP 哈希: 使用客户端IP地址计算哈希值然后发送到与之对应的服务器加权轮询: 按照权重值的比例发送请求加权随机选择: 按照权重值随机选择后端服务器最短响应时间: 将请求发送到响应时间最短的服务器
Spring Cloud LoadBalancer 默认只支持轮询和随机选择, 但是可以自定义负载均衡策略
使用随机选择的负载均衡策略
创建随机选择负载均衡器
public class MyRandomLoadBalancer {Beanpublic ReactorLoadBalancerServiceInstance randomLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name);}
}配置 注意: 配置局部负载均衡器有可能不起作用, 可以配置全局负载均衡器
Nacos 权重负载均衡器
Nacos 中支持两种负载均衡器, 一种是权重负载均衡器, 另一种是第三方的CMDB(地域就近访问)标签负载均衡器, 我们可以将Spring Cloud LoadBalancer 直接配置为 Nacos 的负载均衡器
创建 Nacos 负载均衡器
LoadBalancerClients(defaultConfiguration MyNacosLoadBalancer.class)
public class MyNacosLoadBalancer {Resourceprivate NacosDiscoveryProperties nacosDiscoveryProperties;Beanpublic ReactorLoadBalancerServiceInstance nacosLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new NacosLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class),name, nacosDiscoveryProperties);}
}配置 自定义负载均衡器(根据IP哈希策略选择)
创建自定义负载均衡器
public class CustomLoadBalancer implements ReactorServiceInstanceLoadBalancer {private static final Log log LogFactory.getLog(RandomLoadBalancer.class);private final String serviceId;private ObjectProviderServiceInstanceListSupplier serviceInstanceListSupplierProvider;public CustomLoadBalancer(ObjectProviderServiceInstanceListSupplier serviceInstanceListSupplierProvider, String serviceId) {this.serviceId serviceId;this.serviceInstanceListSupplierProvider serviceInstanceListSupplierProvider;}public MonoResponseServiceInstance choose(Request request) {ServiceInstanceListSupplier supplier (ServiceInstanceListSupplier)this.serviceInstanceListSupplierProvider.getIfAvailable(NoopServiceInstanceListSupplier::new);return supplier.get(request).next().map((serviceInstances) - {return this.processInstanceResponse(supplier, serviceInstances);});}private ResponseServiceInstance processInstanceResponse(ServiceInstanceListSupplier supplier, ListServiceInstance serviceInstances) {ResponseServiceInstance serviceInstanceResponse this.getInstanceResponse(serviceInstances);if (supplier instanceof SelectedInstanceCallback serviceInstanceResponse.hasServer()) {((SelectedInstanceCallback)supplier).selectedServiceInstance((ServiceInstance)serviceInstanceResponse.getServer());}return serviceInstanceResponse;}private ResponseServiceInstance getInstanceResponse(ListServiceInstance instances) {if (instances.isEmpty()) {if (log.isWarnEnabled()) {log.warn(No servers available for service: this.serviceId);}return new EmptyResponse();} else {ServletRequestAttributes attributes (ServletRequestAttributes) RequestContextHolder.getRequestAttributes();HttpServletRequest request attributes.getRequest();String ipAddress request.getRemoteAddr();System.out.println(ip地址: ipAddress);int hash instances.hashCode();int index hash % instances.size();ServiceInstance instance (ServiceInstance) instances.get(index);return new DefaultResponse(instance);}}
}
由于自定义负载均衡器和内置的负载均衡器只是在服务器选择的时候有所不同, 所以我们可以直接复制 RandomLoadBalancer 然后 在 getInstanceResponse()方法中进行改动即可
封装自定义负载均衡器 配置 缓存
Spring Cloud LoadBalancer 在获取实例时有两种选择:
及时获取: 每次都从注册中心获取到最新的实例, 效果好但是开销大缓存服务列表: 每次得到服务列表后, 缓存一段时间,
spring Cloud LoadBalancer 默认缓存过期时间为 35s, 保存个数为 256个 我们也可以通过配置来改变这两个值
spring:cloud:loadbalancer:cache:ttl: 10capacity: 1000
# enabled: false 关闭缓存生产环境下不要关闭缓存否则会降低性能
