前言
Ribbon是如何进行负载的
RibbonClientConfiguration
ZoneAwareLoadBalancer
Ribbon负载均衡策略
Ribbon-eager-load(饥饿加载)模式
开启Ribbon饥饿加载
总结
前言
首先要了解 Feign 是如何进行远程调用的,这里面包括,注册中心、负载均衡、FeignClient 之间的关系,微服务通过不论是 eureka、nacos 也好注册到服务端,Feign 是靠 Ribbon 做负载的,而 Ribbon 需要拿到注册中心的服务列表,将服务进行负载缓存到本地,然后 FeignClient 客户端在进行调用,大概就是这么一个过程。
基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能
项目地址:https://github.com/YunaiV/ruoyi-vue-pro
视频教程:https://doc.iocoder.cn/video/
Ribbon是如何进行负载的
首先我们要清楚 Ribbon 是如何进行负载的,也就是如何获取 nacos、eureka 的服务列表,这个很关键。
Ribbon是如何进行负载的
基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能
项目地址:https://github.com/YunaiV/yudao-cloud
视频教程:https://doc.iocoder.cn/video/
RibbonClientConfiguration
RibbonClientConfiguration 类中通过 LoadBalancer,我们知道 ribbon 是靠LoadBalancer 做负载的 无非就是 ILoadBalancer 接口的方法,依次是添加新的服务、在负载均衡里选择一个服务、markServerDown 服务下线、获取服务列表、获取存活的服务器、获取所有服务器(包括健康和不健康的)
ILoadBalancer 接口
ZoneAwareLoadBalancer
loadBalancer 默认的是 ZoneAwareLoadBalancer 负载均衡器,通过继承父类DynamicServerListLoadBalancer 的 restOfInit 方法,里面比较重要的两个方法,enableAndInitLearnNewServersFeature和updateListOfServers 方法
restOfInit 方法
enableAndInitLearnNewServersFeature 方法里面。
LOGGER.info("Using serverListUpdater {}", serverListUpdater.getClass().getSimpleName()); serverListUpdater.start(updateAction);让我们看 ServerListUpdater.start 方法的实现,通过自定义线程去拿,这就是获取服务列表。
ServerListUpdater.start
Ribbon负载均衡策略
服务列表获取说了,当然负载均衡的策略这块也有必要讲一下,主要有七种;
RoundRobinRule(轮询策略,按照服务顺序依次循环调用)
WeightedResponseTimeRule(权重比策略,优先选择权重比高的服务,也就是服务响应时间比较短的,响应时间越长权重比越低)
RandomRule(随机策略,服务提供者列表随机选择一个服务)
BestAvailableRule(最小连接数策略,获取服务列表中连接数最小的服务实例)
RetryRule(重试策略,重试获取已经失效的服务,指定时间没有获取到返回NULL)
AvailabilityFilteringRule(可用性敏感策略,过滤非健康服务实例,选择lianji)
ZoneAvoidanceRule(区域敏感策略)
Ribbon-eager-load(饥饿加载)模式
Ribbon 对于负载 Client 是在服务启动后,发生调用的时候才会去创建 Client,所以在第一次发生 http 请求调用的时候,不光要算上 http 的请求时间,还要算上 Client 的创建时间,所以第一次调用的时候才会很慢,写个方法调用下。
System 服务调用 System2 服务
@GetMapping("/requestSystem2Api") public String requestSystem2Api(){ long startTime = System.currentTimeMillis(); R<String> stringR = iTestServiceClient.testRequestMethod(); if (null !=stringR){ log.info("接口返回:"+stringR.getMsg()); } long needTime = System.currentTimeMillis() - startTime; log.info("接口调用需要的时间:"+needTime); return ""; }从调用日志可以看出,第一次调用 System2 服务,Ribbon 的 DynamicServerListLoadBalancer 会将 feign 客户端进行负载,然后进行调用,第一次调用的时间就是会长一些,第二次调用直接进行请求可以看到调用时间很快。
第一次慢,第二次快
开启Ribbon饥饿加载
ribbon: nacos: enabled:true# 开启naocos轮询 eager-load: enabled:true# 开启Ribbon的饥饿加载模式(防止第一次请求超时的问题) clients:Lxlxxx-system2# 指定需要开启的服务(需要开启Ribbon的饥饿加载模式) ReadTimeout:10000 ConnectTimeout:10000 MaxAutoRetries:0 MaxAutoRetriesNextServer:1 OkToRetryOnAllOperations:false在项目启动的时候,可以从日志看到,已经把 Lxlxxx-system2 服务进行加载,从而避免了第一次请求超时的情况。
开启Ribbon饥饿加载
总结
其实这种饥饿加载模式,类似于“客户端负载预热”的一个操作,项目启动的时候进行加载,防止服务之间调用可以因为数据量、业务逻辑处理复杂性导致接口超时,如果你的服务之间调用业务处理比较复杂、且慢,不妨可以试试这种解决方式。
https://mp.weixin.qq.com/s/4lvh0K2_7mo9x-zLvbPtPQ