7、Spring Cloud Hystrix

1.Spring Cloud Hystrix简介

(1).分布式问题

  复杂分布式体系结构中的应用程序有数十个依赖关系，每个依赖关系在某些时候将不可避免地失败。

 

  多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其它的微服务，这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用，对微服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，所谓的“雪崩效应”.

  对于高流量的应用来说，单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是，这些应用程序还可能导致服务之间的延迟增加，备份队列，线程和其他系统资源紧张，导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理，以便单个依赖关系的失败，不能取消整个应用程序或系统。

  备注：一般情况对于服务依赖的保护主要有3中解决方案：

①.熔断模式：这种模式主要是参考电路熔断，如果一条线路电压过高，保险丝会熔断，防止火灾。放到我们的系统中，如果某个目标服务调用慢或者有大量超时，此时，熔断该服务的调用，对于后续调用请求，不在继续调用目标服务，直接返回，快速释放资源。如果目标服务情况好转则恢复调用。

②.隔离模式：这种模式就像对系统请求按类型划分成一个个小岛的一样，当某个小岛被火少光了，不会影响到其他的小岛。例如可以对不同类型的请求使用线程池来资源隔离，每种类型的请求互不影响，如果一种类型的请求线程资源耗尽，则对后续的该类型请求直接返回，不再调用后续资源。这种模式使用场景非常多，例如将一个服务拆开，对于重要的服务使用单独服务器来部署，再或者公司最近推广的多中心。

③.限流模式：上述的熔断模式和隔离模式都属于出错后的容错处理机制，而限流模式则可以称为预防模式。限流模式主要是提前对各个类型的请求设置最高的QPS阈值，若高于设置的阈值则对该请求直接返回，不再调用后续资源。这种模式不能解决服务依赖的问题，只能解决系统整体资源分配问题，因为没有被限流的请求依然有可能造成雪崩效应。

(2).Hystrix断路器

  Hystrix是一个用于处理分布式系统的延迟和容错的开源库，在分布式系统里，许多依赖不可避免的会调用失败，比如超时、异常等，Hystrix能够保证在一个依赖出问题的情况下，不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性。

  断路器：本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控(类似熔断保险丝),向调用方返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方无法处理的异常，这样就保证了服务调用方的线程不会被长时间、不必要地占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。

(3).Hystrix作用

[1].服务降级

  Hystrix服务降级，其实就是线程池中单个线程障处理，防止单个线程请求时间太长，导致资源长期被占有而得不到释放，从而导致线程池被快速占用完，导致服务崩溃。

  Hystrix能解决如下问题：

①.请求超时降级，线程资源不足降级，降级之后可以返回自定义数据

②.线程池隔离降级，分布式服务可以针对不同的服务使用不同的线程池，从而互不影响

③.自动触发降级与恢复

④.实现请求缓存和请求合并

[2].服务熔断

  熔断模式：这种模式主要是参考电路熔断，如果一条线路电压过高，保险丝会熔断，防止火灾。放到我们的系统中，如果某个目标服务调用慢或者有大量超时，此时，熔断该服务的调用，对于后续调用请求，不在继续调用目标服务，直接返回，快速释放资源。如果目标服务情况好转则恢复调用。

[3].服务限流

  限流模式主要是提前对各个类型的请求设置最高的QPS阈值，若高于设置的阈值则对该请求直接返回，不再调用后续资源。这种模式不能解决服务依赖的问题，只能解决系统整体资源分配问题，因为没有被限流的请求依然有可能造成雪崩效应。

[4].接近实时的监控

(4).官方文档

  https://github.com/Netflix/Hystrix/wiki/How-To-Use

2.服务熔断

 

  熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务不可用或者响应时间太长时，会进行服务的降级，进而熔断该节点微服务的调用，快速返回"错误"的响应信息。当检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况，当失败的调用到一定阈值，缺省是5秒内20次调用失败就会启动熔断机制。熔断机制的注解是@HystrixCommand。

(1).创建工程

  新建microservicecloud-provider-dept-hystrix-8001

 

 

  将microservicecloud-provider-dept-8001下的package和applicaiton.yml配置文件复制到microservicecloud-provider-dept-hystrix-8001上。

 

(2).配置pom文件

  修改部分：

<!--  hystrix --> <dependency>     <groupId>org.springframework.cloud</groupId>     <artifactId>spring-cloud-starter-hystrix</artifactId> </dependency>

  完整部分：

<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven./POM/4.0.0"          xmlns:xsi="http://www./2001/XMLSchema-instance"          xsi:schemaLocation="http://maven./POM/4.0.0 http://maven./xsd/maven-4.0.0.xsd">     <parent>         <artifactId>microservicecloud</artifactId>         <groupId>com.hosystem</groupId>         <version>1.0-SNAPSHOT</version>     </parent>     <modelVersion>4.0.0</modelVersion>       <artifactId>microservicecloud-provider-dept-hystrix-8001</artifactId>     <dependencies>         <!-- 引入自己定义的api通用包，可以使用Dept部门Entity -->         <dependency>             <groupId>com.hosystem</groupId>             <artifactId>microservicecloud-api</artifactId>             <version>${project.version}</version>         </dependency>         <!-- 将微服务provider侧注册进eureka -->         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-eureka</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-config</artifactId>         </dependency>         <!-- actuator监控信息完善 -->         <dependency>             <groupId>org.springframework.boot</groupId>             <artifactId>spring-boot-starter-actuator</artifactId>         </dependency>         <dependency>             <groupId>junit</groupId>             <artifactId>junit</artifactId>         </dependency>         <dependency>             <groupId>mysql</groupId>             <artifactId>mysql-connector-java</artifactId>         </dependency>         <dependency>             <groupId>com.alibaba</groupId>             <artifactId>druid</artifactId>         </dependency>         <dependency>             <groupId>ch.qos.logback</groupId>             <artifactId>logback-core</artifactId>         </dependency>         <dependency>             <groupId>org.mybatis.spring.boot</groupId>             <artifactId>mybatis-spring-boot-starter</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.boot</groupId>             <artifactId>spring-boot-starter-jetty</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.boot</groupId>             <artifactId>spring-boot-starter-web</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.boot</groupId>             <artifactId>spring-boot-starter-test</artifactId>         </dependency>         <!-- 修改后立即生效，热部署 -->         <dependency>             <groupId>org.springframework</groupId>             <artifactId>springloaded</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.boot</groupId>             <artifactId>spring-boot-devtools</artifactId>         </dependency>         <!--  hystrix -->         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-hystrix</artifactId>         </dependency>     </dependencies>   </project>

(3).修改applicaiton.yml

server:   port: 8001   mybatis:   config-location: classpath:mybatis/mybatis.cfg.xml        # mybatis配置文件所在路径   type-aliases-package: com.hosytem.springcloud.entities    # 所有Entity别名类所在包   mapper-locations:   - classpath:mybatis/mapper/**/*.xml                       # mapper映射文件   #name spring.application.name=microservicecloud-dept   很重要很重要很重要 spring:    application:     name: microservicecloud-dept    datasource:     type: com.alibaba.druid.pool.DruidDataSource            # 当前数据源操作类型     driver-class-name: org.gjt.mm.mysql.Driver              # mysql驱动包     url: jdbc:mysql://192.168.188.188:3306/cloudDB01              # 数据库名称     username: root     password: 123456     dbcp2:       min-idle: 5                                           # 数据库连接池的最小维持连接数       initial-size: 5                                       # 初始化连接数       max-total: 5                                          # 最大连接数       max-wait-millis: 200                                  # 等待连接获取的最大超时时间   eureka:   client: #客户端注册进eureka服务列表内     service-url: #      defaultZone: http://localhost:7001/eureka       defaultZone: http://:7001/eureka/,http://:7002/eureka/,http://:7003/eureka/   instance:     instance-id: microservicecloud-dept8001-hystrix   #自定义服务名称信息     prefer-ip-address: true     #访问路径可以显示IP地址 info:   app.name: hosystem-microservicecloud   company.name: www.hosystem.com   build.artifactId: $project.artifactId$   build.version: $project.version$

(4).修改DeptController

 

package com.hosystem.springcloud.controller;   import com.hosystem.springcloud.entities.Dept; import com.hosystem.springcloud.service.DeptService; import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.beans.factory.annotation.Qualifier; import org.springframework.cloud.client.ServiceInstance; import org.springframework.cloud.client.discovery.DiscoveryClient; import org.springframework.web.bind.annotation.*;   import java.util.List;     @RestController public class DeptController {       @Autowired     private DeptService service = null;       @RequestMapping(value="/dept/get/{id}",method=RequestMethod.GET)     //一旦调用服务方法失败并抛出了错误信息后，会自动调用@HystrixCommand标注好的fallbackMethod调用类中的指定方法     @HystrixCommand(fallbackMethod = "processHystrix_Get")     public Dept get(@PathVariable("id") Long id)     {         Dept dept =  this.service.get(id);         if(null == dept)         {             throw new RuntimeException("该ID："+id+"没有没有对应的信息");         }         return dept;     }       public Dept processHystrix_Get(@PathVariable("id") Long id)     {         return new Dept().setDeptno(id)                 .setDname("该ID："+id+"没有没有对应的信息,null--@HystrixCommand")                 .setDb_source("no this database in MySQL");     } }

(5).修改主启动类

  修改DeptProvider8001_App主启动类。

package com.hosystem.springcloud;   import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker; import org.springframework.cloud.client.discovery.EnableDiscoveryClient; import org.springframework.cloud.netflix.eureka.EnableEurekaClient;   @SpringBootApplication @EnableEurekaClient //本服务启动后会自动注册进eureka服务中 @EnableDiscoveryClient @EnableCircuitBreaker//对hystrixR熔断机制的支持 public class DeptProvider8001_Hystrix_App {     public static void main(String[] args)     {         SpringApplication.run(DeptProvider8001_Hystrix_App.class, args);     } }

(6).测试

[1].启动eureka7001、eureka7002、eureka7003

[2].启动DeptProvider8001_Hystrix_App

[3].启动microservicecloud-consumer-dept-80

 

 

[4].访问

http://localhost/consumer/dept/get/112

 

3.服务降级

 

  整体资源不足于应对当前的困难，则选择性关掉某些服务，优先提供重要的服务。

  服务降级处理是在客户端实现完成的，与服务端没有关系。

(1).修改microservicecloud-api

  修改microservicecloud-api工程，根据已经有的DeptClientService接口新建一个实现了FallbackFactory接口的类DeptClientServiceFallbackFactor。

 

package com.hosystem.springcloud.service;   import com.hosystem.springcloud.entities.Dept; import feign.hystrix.FallbackFactory; import org.springframework.stereotype.Component;   import java.util.List;   @Component//不要忘记添加，不要忘记添加 public class DeptClientServiceFallbackFactory implements FallbackFactory<DeptClientService> {     @Override     public DeptClientService create(Throwable throwable)     {         return new DeptClientService() {             @Override             public Dept get(long id)             {                 return new Dept().setDeptno(id)                         .setDname("该ID："+id+"没有没有对应的信息,Consumer客户端提供的降级信息,此刻服务Provider已经关闭")                         .setDb_source("no this database in MySQL");             }             @Override             public List<Dept> list()             {                 return null;             }             @Override             public boolean add(Dept dept)             {                 return false;             }         };     } }

(2).修改DeptClientService接口

  修改microservicecloud-api工程，DeptClientService接口在注解@FeignClient中添加fallbackFactory属性值。

 

package com.hosystem.springcloud.service;   import com.hosystem.springcloud.entities.Dept; import org.springframework.cloud.netflix.feign.FeignClient; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RequestMethod;   import java.util.List;   //@FeignClient(value = "MICROSERVICECLOUD-DEPT") @FeignClient(value = "MICROSERVICECLOUD-DEPT",fallbackFactory=DeptClientServiceFallbackFactory.class) public interface DeptClientService {     @RequestMapping(value = "/dept/get/{id}",method = RequestMethod.GET)     public Dept get(@PathVariable("id") long id);       @RequestMapping(value = "/dept/list",method = RequestMethod.GET)     public List<Dept> list();       @RequestMapping(value = "/dept/add",method = RequestMethod.POST)     public boolean add(Dept dept); }

(3).mvn clean和mvn install

  对microservicecloud-api工程进行mvn clean install

 

(4).修改microservicecloud-consumer-dept-feign

  microservicecloud-consumer-dept-feign工程修改YML

server:   port: 80 feign:   hystrix:     enabled: true eureka:   client:     register-with-eureka: false     service-url:       defaultZone: http://:7001/eureka/,http://:7002/eureka/,http://:7003/eureka/

(5).测试

[1].启动eureka7001、eureka7002、eureka7003

[2].启动microservicecloud-provider-dept-8001

 

[3].启动microservicecloud-consumer-dept-feign

 

[4].访问测试

①.正常测试

http://localhost/consumer/dept/get/1

 

②.关闭服务测试

  关闭微服务microservicecloud-provider-dept-8001。

http://localhost/consumer/dept/get/1

 

  此时服务端provider已经down了，但是我们做了服务降级处理，让客户端在服务端不可用时也会获得提示信息而不会挂起耗死服务器。

4.服务监控hystrixDashboard

 

  除了隔离依赖服务的调用以外，Hystrix还提供了准实时的调用监控（Hystrix Dashboard），Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息，并以统计报表和图形的形式展示给用户，包括每秒执行多少请求多少成功，多少失败等。Netflix通过hystrix-metrics-event-stream项目实现了对以上指标的监控。Spring Cloud也提供了Hystrix Dashboard的整合，对监控内容转化成可视化界面。

(1).新建工程

  新建工程microservicecloud-consumer-hystrix-dashboard

 

 

(2).修改pom

  修改部分：

<!-- hystrix和 hystrix-dashboard相关-->    <dependency>        <groupId>org.springframework.cloud</groupId>        <artifactId>spring-cloud-starter-hystrix</artifactId>    </dependency>    <dependency>        <groupId>org.springframework.cloud</groupId>        <artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>    </dependency>

  完整部分：

<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven./POM/4.0.0"          xmlns:xsi="http://www./2001/XMLSchema-instance"          xsi:schemaLocation="http://maven./POM/4.0.0 http://maven./xsd/maven-4.0.0.xsd">     <parent>         <artifactId>microservicecloud</artifactId>         <groupId>com.hosystem</groupId>         <version>1.0-SNAPSHOT</version>     </parent>     <modelVersion>4.0.0</modelVersion>       <artifactId>microservicecloud-consumer-hystrix-dashboard</artifactId>     <dependencies>         <!-- 自己定义的api -->         <dependency>             <groupId>com.hosystem</groupId>             <artifactId>microservicecloud-api</artifactId>             <version>${project.version}</version>         </dependency>         <dependency>             <groupId>org.springframework.boot</groupId>             <artifactId>spring-boot-starter-web</artifactId>         </dependency>                  <!-- 修改后立即生效，热部署 -->         <dependency>             <groupId>org.springframework</groupId>             <artifactId>springloaded</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.boot</groupId>             <artifactId>spring-boot-devtools</artifactId>         </dependency>           <!-- Ribbon相关 -->         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-eureka</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-ribbon</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-config</artifactId>         </dependency>           <!-- feign相关 -->         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-feign</artifactId>         </dependency>           <!-- hystrix和 hystrix-dashboard相关-->         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-hystrix</artifactId>         </dependency>         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>         </dependency>     </dependencies> </project>

(3).配置applicaiton.yml

server:   port: 9001

(4).配置主启动类

  新建主启动类DeptConsumer_DashBoard_App，然后添加注解@EnableHystrixDashboard.

package com.hosystem.springcloud;   import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.netflix.hystrix.dashboard.EnableHystrixDashboard;   @SpringBootApplication @EnableHystrixDashboard public class DeptConsumer_DashBoard_App {     public static void main(String[] args)     {         SpringApplication.run(DeptConsumer_DashBoard_App.class,args);     } }

(5).配置provider监控依赖

  所有Provider微服务提供类(8001/8002/8003)都需要监控依赖配置.

<!-- actuator监控信息完善 -->    <dependency>      <groupId>org.springframework.boot</groupId>      <artifactId>spring-boot-starter-actuator</artifactId>    </dependency>

(6).启动项目

[1].启动dashboard

  启动microservicecloud-consumer-hystrix-dashboard该微服务监控消费端。

http://localhost:9001/hystrix

 

[2].启动eureka

  启动eureka7001、eureka7002、eureka7003

 

[3].启动hystrix

  启动microservicecloud-provider-dept-hystrix-8001

 

http://localhost:8001/dept/get/1 http://localhost:8001/hystrix.stream

  

(7).监控测试

  多次刷新http://localhost:8001/dept/get/1，然后通过Hystrix Dashboard查看。

[1].填写监控地址

http://localhost:8001/hystrix.stream

 

  Delay：该参数用来控制服务器上轮询监控信息的延迟时间，默认为2000毫秒，可以通过配置该属性来降低客户端的网络和CPU消耗。

  Title：该参数对应了头部标题Hystrix Stream之后的内容，默认会使用具体监控实例的URL，可以通过配置该信息来展示更合适的标题。

[2].监控结果

  7色、1圈、1线

 

  实心圆：共有两种含义。它通过颜色的变化代表了实例的健康程度，它的健康度从绿色<黄色<橙色<红色递减。该实心圆除了颜色的变化之外，它的大小也会根据实例的请求流量发生变化，流量越大该实心圆就越大。所以通过该实心圆的展示，就可以在大量的实例中快速的发现故障实例和高压力实例

  曲线：用来记录2分钟内流量的相对变化，可以通过它来观察到流量的上升和下降趋势。

 

[3].复杂监控结果

 

 

参考文档：

https://github.com/Netflix/Hystrix/wiki/How-To-Use