高可用服务架构设计(11)-Hystrix的执行流程及原理

当开始执行command,调用了它的execute()之后,Hystrix内部的执行流程和步骤以及原理是怎样的呢?

  • Hystrix执行时的8大流程及原理图

    1 创建HystrixCommand/HystrixObservableCommand

    一个HystrixCommandHystrixObservableCommand对象,代表对某个依赖服务发起的一次请求或者调用
    构造的时候,可在构造函数中传入任何需要的参数

  • HystrixCommand仅仅会返回一个结果的调用

  • HystrixObservableCommand可能会返回多条结果的调用

2 调用command的执行方法

执行Command就可以发起一次对依赖服务的调用

要执行Command,需要在4个方法中选择其中的一个

  • execute()
    同步调用,调用后直接block住,直到依赖服务返回单条结果,或抛异常
  • queue()
    异步调用,返回一个Future,后面可以通过Future获取单条结果
  • observe()
    订阅一个Observable对象,Observable代表的是依赖服务返回的结果,获取到一个那个代表结果的Observable对象的拷贝对象
  • toObservable()
    返回一个Observable对象,如果我们订阅这个对象,就会执行command并且获取返回结果

其中execute()和queue()仅对HystrixCommand适用

K             value   = command.execute();
Future<K>     fValue  = command.queue();
Observable<K> ohValue = command.observe();         
Observable<K> ocValue = command.toObservable();    
  • execute()实际上会调用queue().get()
  • 在 queue() 方法中,会调用toObservable().toBlocking().toFuture()

即,无论是哪种执行command的方式,最终都是依赖toObservable()

3 检查是否开启缓存

从这开始底层的运行原理啦,了解Hysrix的一些高级的功能和特性

如果这个command开启了请求缓存(request ***),而且这个调用的结果在缓存中存在,那么直接从缓存中返回结果
否则,继续往后

4 检查是否开启短路器

检查这个command对应的依赖服务是否开启短路器

如果断路器被打开了,那么hystrix就不会执行这个command,而是直接执行fallback降级

5 检查线程池/队列/semaphore是否已满

如果command对应的线程池/队列/semaphore已满,那么也不会执行command,而是直接去调用fallback降级机制,同时发送 reject 信息给断路器统计

6 执行command

调用HystrixObservableCommand.construct()或HystrixCommand.run()来实际执行这个command

  • HystrixCommand.run()
    返回一个单条结果,或者抛出一个异常
  • HystrixObservableCommand.construct()
    返回一个Observable对象,可以获取多条结果

如果HystrixCommand.run()或HystrixObservableCommand.construct()的执行,超过了timeout时长的话,那么command所在的线程就会抛出一个TimeoutException
如果timeout了,也会去执行fallback降级机制,而且就不会管run()或construct()返回的值

我们是不可能终止掉一个调用严重延迟的依赖服务的线程的,只能说给你抛出来一个TimeoutException,但是还是可能会因为严重延迟的调用线程占满整个线程池的
即使这个时候新来的流量都被限流了。。。

如果没有timeout的话,那么就会拿到一些调用依赖服务获取到的结果,然后hystrix会做一些logging记录和metric统计

7 短路健康检查

Hystrix会将每一个依赖服务的调用成功,失败,拒绝,超时,等事件,都会发送给circuit breaker断路器

短路器就会对调用成功/失败/拒绝/超时等事件的次数进行统计

短路器会根据这些统计次数来决定,是否要进行短路,如果打开了短路器,那么在一段时间内就会直接短路,然后如果在之后第一次检查发现调用成功了,就关闭断路器

8 调用fallback降级机制

在以下几种情况中,hystrix会调用fallback降级机制

  • run()或construct()抛出一个异常
  • 短路器打开
  • 线程池/队列/semaphore满了
  • command执行超时了

一般在降级机制中,都建议给出一些默认的返回值,比如静态的一些代码逻辑,或者从内存中的缓存中提取一些数据,尽量在这里不要再进行网络请求了
即使在降级中,一定要进行网络调用,也应该将那个调用放在一个HystrixCommand中,进行隔离

  • 在HystrixCommand中,实现getFallback()方法,可以提供降级机制
  • 在HystirxObservableCommand中,实现一个resumeWithFallback()方法,返回一个Observable对象,可以提供降级结果

如果fallback返回了结果,那么hystrix就会返回这个结果

  • 对于HystrixCommand,会返回一个Observable对象,其中会发返回对应的结果
  • 对于HystrixObservableCommand,会返回一个原始的Observable对象

如果没有实现fallback,或者是fallback抛出了异常,Hystrix会返回一个Observable,但是不会返回任何数据

不同的command执行方式,其fallback为空或者异常时的返回结果不同

  • 对于execute(),直接抛出异常
  • 对于queue(),返回一个Future,调用get()时抛出异常
  • 对于observe(),返回一个Observable对象,但是调用subscribe()方法订阅它时,理解抛出调用者的onError方法
  • 对于toObservable(),返回一个Observable对象,但是调用subscribe()方法订阅它时,理解抛出调用者的onError方法

9 不同的执行方式

  • execute(),获取一个Future.get(),然后拿到单个结果
  • queue(),返回一个Future
  • observer(),立即订阅Observable,然后启动8大执行步骤,返回一个拷贝的Observable,订阅时理解回调给你结果
  • toObservable(),返回一个原始的Observable,必须手动订阅才会去执行8大步骤

参考

  • 《Java工程师面试突击第1季-中华石杉老师》

X 交流学习

Java交流群

博客

Github

#uc##面经##春招##笔试题目##秋招##实习#
全部评论

相关推荐

点赞 3 评论
分享
牛客网
牛客企业服务