负载均衡原理#

负载均衡流程#

Ribbon拦截请求寻找Eureka返回服务列表，进行负载均衡

在本文的 Ribbon 调用链中，@LoadBalanced 的 RestTemplate 先由拦截器识别 URL 中的服务名，再通过服务发现获得可用实例列表，交给 IRule 选择目标实例，最后用选中实例的主机和端口发出 HTTP 请求。负载均衡发生在消费者一侧，Eureka 并不代理业务流量；实例列表通常还涉及客户端缓存与更新，不应理解为每次业务请求都同步查询一次注册中心。

负载均衡策略#

IRule

内置负载均衡规则类	规则描述
RoundRobinRule	简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule	对以下两种服务器进行忽略: (1）在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。(2）并发数过高的服务器。如果一个服务器的并发连接数过高，配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的\.\.ActiveConnectionsLimit属性进行配置。
weightedResponseTimeRule	为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。
ZoneAvoidanceRule	以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。
BestAvailableRule	忽略哪些短路的服务器，并选择并发数较低的服务器。
RandomRule	随机选择一个可用的服务器。
RetryRule	重试机制的选择逻辑。

调整负载均衡策略#

通过定义IRule实现可以修改负载均衡规则，有两种方式:

1.代码方式:在order-service中的OrderApplication类中，定义一个新的IRule:全局生效

1
@Bean
2
public IRule randomRule(){
3
  return new RandomRule();
4
}

2 配置文件方式:在order-service的application.yml文件中，添加新的配置也可以修改规则: 某个微服务范围生效

1
userservice:
2
  ribbon:
3
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #负载均衡规则

饥饿加载#

Ribbon默认是采用懒加载，即第一次访问时才会去创建LoadBalanceClient，请求时间会很长。而饥饿加载则会在项目启动时创建，降低第一次访问的耗时，通过下面配置开启饥饿加载:

1
ribbon:
2
  eager-load:
3
    enabled: true # 开启饥饿加载
4
    clients: userservice # 指定对userservice这个服务饥饿加载
5
      - userservice1
6
      - userservice2

SpringCloud03-Eureka

SpringCloud02-服务拆分