Chinaunix首页 | 论坛 | 博客
  • 博客访问: 6662004
  • 博文数量: 915
  • 博客积分: 17977
  • 博客等级: 上将
  • 技术积分: 8846
  • 用 户 组: 普通用户
  • 注册时间: 2005-08-26 09:59
个人简介

一个好老好老的老程序员了。

文章分类

全部博文(915)

文章存档

2022年(9)

2021年(13)

2020年(10)

2019年(40)

2018年(88)

2017年(130)

2015年(5)

2014年(12)

2013年(41)

2012年(36)

2011年(272)

2010年(1)

2009年(53)

2008年(65)

2007年(47)

2006年(81)

2005年(12)

分类: 云计算

2021-05-07 12:10:23

Spring Cloud Stream在 Spring Cloud 体系内用于构建高度可扩展的基于事件驱动的微服务,其目的是为了简化消息在 Spring Cloud 应用程序中的开发。

Spring Cloud Stream (后面以 SCS 代替 Spring Cloud Stream) 本身内容很多,而且它还有很多外部的依赖,想要熟悉 SCS,必须要先了解 Spring Messaging 和 Spring Integration 这两个项目,接下来,文章将围绕以下三点进行展开:

  • 什么是 Spring Messaging
  • 什么是 Spring Integration
  • 什么是 SCS 体系及其原理

1.png

本文配套可交互教程已登录阿里云知行动手实验室,PC 端登录 _ _在浏览器中立即体验。

Spring Messaging

Spring Messaging 是 Spring Framework 中的一个模块,其作用就是统一消息的编程模型。

  • 比如消息 Messaging 对应的模型就包括一个消息体 Payload 和消息头 Header:

2.png

点击(此处)折叠或打开

  1. @FunctionalInterface
  2. public interface MessageChannel {
  3.     long INDEFINITE_TIMEOUT = -1;
  4.     default boolean send(Message<?> message) {
  5.          return send(message, INDEFINITE_TIMEOUT);
  6.      }
  7.      boolean send(Message<?> message, long timeout);
  8. }
  • 消息通道 MessageChannel 用于接收消息,调用send方法可以将消息发送至该消息通道中:

3.png

点击(此处)折叠或打开

  1. @FunctionalInterface
  2. public interface MessageChannel {
  3.     long INDEFINITE_TIMEOUT = -1;
  4.     default boolean send(Message<?> message) {

  5.          return send(message, INDEFINITE_TIMEOUT);

  6.      }
  7.      boolean send(Message<?> message, long timeout);
  8. }


 

消息通道里的消息如何被消费呢?

  • 由消息通道的子接口可订阅的消息通道SubscribableChannel实现,被MessageHandler消息处理器所订阅:

    点击(此处)折叠或打开

    1. public interface SubscribableChannel extends MessageChannel {
    2.     boolean subscribe(MessageHandler handler);
    3.     boolean unsubscribe(MessageHandler handler);
    4. }
  • 由MessageHandler真正地消费/处理消息:
 

点击(此处)折叠或打开

  1. @FunctionalInterface
  2. public interface MessageHandler {
  3.     void handleMessage(Message<?> message) throws MessagingException;
  4. }

Spring Messaging 内部在消息模型的基础上衍生出了其它的一些功能,如:

  • 消息接收参数及返回值处理:消息接收参数处理器HandlerMethodArgumentResolver配合@Header, @Payload等注解使用;消息接收后的返回值处理器HandlerMethodReturnValueHandler配合@SendTo注解使用;
  • 消息体内容转换器MessageConverter;
  • 统一抽象的消息发送模板AbstractMessageSendingTemplate;
  • 消息通道拦截器ChannelInterceptor;

Spring Integration

Spring Integration 提供了 Spring 编程模型的扩展用来支持企业集成模式(Enterprise Integration Patterns),是对 Spring Messaging 的扩展。

它提出了不少新的概念,包括消息路由MessageRoute、消息分发MessageDispatcher、消息过滤Filter、消息转换Transformer、消息聚合Aggregator、消息分割Splitter等等。同时还提供了MessageChannel和MessageHandler的实现,分别包括 DirectChannel、ExecutorChannel、PublishSubscribeChannel和MessageFilter、ServiceActivatingHandler、MethodInvokingSplitter 等内容。

这里为大家介绍几种消息的处理方式:

  • 消息的分割:

4.png

  • 消息的聚合:

5.png

  • 消息的过滤:

6.png

  • 消息的分发:

7.png

接下来,我们以一个最简单的例子来尝试一下 Spring Integration。

这段代码解释为:

点击(此处)折叠或打开

  1. SubscribableChannel messageChannel =new DirectChannel(); // 1
  2. messageChannel.subscribe(msg-> { // 2
  3.  System.out.println("receive: " +msg.getPayload());
  4. });
  5. messageChannel.send(MessageBuilder.withPayload("msgfrom alibaba").build());
  • 构造一个可订阅的消息通道messageChannel。
  • 使用MessageHandler去消费这个消息通道里的消息。
  • 发送一条消息到这个消息通道,消息最终被消息通道里的MessageHandler所消费。
  • 最后控制台打印出:receive: msg from alibaba。

DirectChannel内部有个UnicastingDispatcher类型的消息分发器,会分发到对应的消息通道MessageChannel中,从名字也可以看出来,UnicastingDispatcher是个单播的分发器,只能选择一个消息通道。那么如何选择呢? 内部提供了LoadBalancingStrategy负载均衡策略,默认只有轮询的实现,可以进行扩展。

我们对上段代码做一点修改,使用多个 MessageHandler 去处理消息:

点击(此处)折叠或打开

  1. SubscribableChannel messageChannel = new DirectChannel();
  2. messageChannel.subscribe(msg -> {
  3.      System.out.println("receive1: " + msg.getPayload());
  4. });
  5. messageChannel.subscribe(msg -> {
  6.      System.out.println("receive2: " + msg.getPayload());
  7. });
  8. messageChannel.send(MessageBuilder.withPayload("msg from alibaba").build());
  9. messageChannel.send(MessageBuilder.withPayload("msg from alibaba").build());

由于DirectChannel内部的消息分发器是UnicastingDispatcher单播的方式,并且采用轮询的负载均衡策略,所以这里两次的消费分别对应这两个MessageHandler。控制台打印出:

点击(此处)折叠或打开

  1. receive1: msg from alibaba
  2. receive2: msg from alibaba

既然存在单播的消息分发器UnicastingDispatcher,必然也会存在广播的消息分发器,那就是BroadcastingDispatcher,它被 PublishSubscribeChannel 这个消息通道所使用。广播消息分发器会把消息分发给所有的 MessageHandler:

点击(此处)折叠或打开

  1. SubscribableChannel messageChannel = new PublishSubscribeChannel();
  2. messageChannel.subscribe(msg -> {
  3.      System.out.println("receive1: " + msg.getPayload());
  4. });
  5. messageChannel.subscribe(msg -> {
  6.      System.out.println("receive2: " + msg.getPayload());
  7. });
  8. messageChannel.send(MessageBuilder.withPayload("msg from alibaba").build());
  9. messageChannel.send(MessageBuilder.withPayload("msg from alibaba").build());

Spring Cloud Stream

SCS 与各模块之间的关系是:

  • SCS 在 Spring Integration 的基础上进行了封装,提出了Binder, Binding, @EnableBinding, @StreamListener等概念。
  • SCS 与 Spring Boot Actuator 整合,提供了/bindings, /channelsendpoint。
  • SCS 与 Spring Boot Externalized Configuration 整合,提供了BindingProperties, BinderProperties等外部化配置类。
  • SCS 增强了消息发送失败的和消费失败情况下的处理逻辑等功能。
  • SCS 是 Spring Integration 的加强,同时与 Spring Boot 体系进行了融合,也是 Spring Cloud Bus 的基础。它屏蔽了底层消息中间件的实现细节,希望以统一的一套 API 来进行消息的发送/消费,底层消息中间件的实现细节由各消息中间件的 Binder 完成。

Binder是提供与外部消息中间件集成的组件,为构造Binding提供了 2 个方法,分别是bindConsumer和bindProducer,它们分别用于构造生产者和消费者。目前官方的实现有 Rabbit Binder 和 Kafka Binder, Spring Cloud Alibaba 内部已经实现了 RocketMQ Binder。

8.png

从图中可以看出,Binding是连接应用程序跟消息中间件的桥梁,用于消息的消费和生产。我们来看一个最简单的使用 RocketMQ Binder 的例子,然后分析一下它的底层处理原理:

  • 启动类及消息的发送:
 

点击(此处)折叠或打开

  1. @SpringBootApplication
  2. @EnableBinding({ Source.class, Sink.class }) // 1
  3. public class SendAndReceiveApplication {
  4.  
  5.     public static void main(String[] args) {
  6.         SpringApplication.run(SendAndReceiveApplication.class, args);
  7.     }
  8.  
  9.        @Bean // 2
  10.     public CustomRunner customRunner() {
  11.         return new CustomRunner();
  12.     }
  13.     public static class CustomRunner implements CommandLineRunner {
  14.         @Autowired
  15.         private Source source;
  16.         @Override
  17.         public void run(String... args) throws Exception {
  18.             int count = 5;
  19.             for (int index = 1; index <= count; index++) {
  20.                 source.output().send(MessageBuilder.withPayload("msg-" + index).build()); // 3
  21.             }
  22.         }
  23.     }
  24. }
  • 消息的接收:

点击(此处)折叠或打开

  1. @Service
  2. public class StreamListenerReceiveService {
  3.     @StreamListener(Sink.INPUT) // 4
  4.     public void receiveByStreamListener1(String receiveMsg) {
  5.         System.out.println("receiveByStreamListener: " + receiveMsg);
  6.     }
  7. }

这段代码很简单,没有涉及到 RocketMQ 相关的代码,消息的发送和接收都是基于 SCS 体系完成的。如果想切换成 RabbitMQ 或 Kafka,只需修改配置文件即可,代码无需修改。

我们来分析下这段代码的原理:

1.@EnableBinding对应的两个接口属性Source和Sink是 SCS 内部提供的。SCS 内部会基于Source和Sink构造BindableProxyFactory,且对应的 output 和 input 方法返回的 MessageChannel 是DirectChannel。output 和 input 方法修饰的注解对应的 value 是配置文件中 binding 的 name。

点击(此处)折叠或打开

  1. public interface Source {
  2.     String OUTPUT = "output";
  3.     @Output(Source.OUTPUT)
  4.     MessageChannel output();
  5. }
  6. public interface Sink {
  7.     String INPUT = "input";
  8.     @Input(Sink.INPUT)
  9.     SubscribableChannel input();
  10. }

配置文件里 bindings 的 name 为 output 和 input,对应Source和Sink接口的方法上的注解里的 value:

点击(此处)折叠或打开

  1. spring.cloud.stream.bindings.output.destination=test-topic
  2. spring.cloud.stream.bindings.output.content-type=text/plain
  3. spring.cloud.stream.rocketmq.bindings.output.producer.group=demo-group
  4. spring.cloud.stream.bindings.input.destination=test-topic
  5. spring.cloud.stream.bindings.input.content-type=text/plain
  6. spring.cloud.stream.bindings.input.group=test-group1
  1. 构造CommandLineRunner,程序启动的时候会执行CustomRunner的run方法。
  2. 调用Source接口里的 output 方法获取DirectChannel,并发送消息到这个消息通道中。这里跟之前 Spring Integration 章节里的代码一致。
  • Source 里的 output 发送消息到DirectChannel消息通道之后会被AbstractMessageChannelBinder#SendingHandler这个MessageHandler处理,然后它会委托给AbstractMessageChannelBinder#createProducerMessageHandler创建的 MessageHandler 处理(该方法由不同的消息中间件实现)。
  • 不同的消息中间件对应的AbstractMessageChannelBinder#createProducerMessageHandler方法返回的 MessageHandler 内部会把 Spring Message 转换成对应中间件的 Message 模型并发送到对应中间件的 broker。
  1. 使用@StreamListener进行消息的订阅。请注意,注解里的Sink.input对应的值是 "input",会根据配置文件里 binding 对应的 name 为 input 的值进行配置:
  • 不同的消息中间件对应的AbstractMessageChannelBinder#createConsumerEndpoint方法会使用 Consumer 订阅消息,订阅到消息后内部会把中间件对应的 Message 模型转换成 Spring Message。
  • 消息转换之后会把 Spring Message 发送至 name 为 input 的消息通道中。
  • @StreamListener对应的StreamListenerMessageHandler订阅了 name 为 input 的消息通道,进行了消息的消费。

这个过程文字描述有点啰嗦,用一张图总结一下(黄色部分涉及到各消息中间件的 Binder 实现以及 MQ 基本的订阅发布功能):

9.png

SCS 章节的最后,我们来看一段 SCS 关于消息的处理方式的一段代码:

 

点击(此处)折叠或打开

  1. @StreamListener(value = Sink.INPUT, condition = "headers['index']=='1'")
  2. public void receiveByHeader(Message msg) {
  3.      System.out.println("receive by headers['index']=='1': " + msg);
  4. }
  5. @StreamListener(value = Sink.INPUT, condition = "headers['index']=='9999'")
  6. public void receivePerson(@Payload Person person) {
  7.      System.out.println("receive Person: " + person);
  8. }
  9. @StreamListener(value = Sink.INPUT)
  10. public void receiveAllMsg(String msg) {
  11.      System.out.println("receive allMsg by StreamListener. content: " + msg);
  12. }
  13. @StreamListener(value = Sink.INPUT)
  14. public void receiveHeaderAndMsg(@Header("index") String index, Message msg) {
  15.      System.out.println("receive by HeaderAndMsg by StreamListener. content: " + msg);
  16. }

有没有发现这段代码跟 Spring MVC Controller 中接收请求的代码很像? 实际上他们的架构都是类似的,Spring MVC 对于 Controller 中参数和返回值的处理类分别是org.springframework.web.method.support.HandlerMethodArgumentResolver、org.springframework.web.method.support.HandlerMethodReturnValueHandler。

Spring Messaging 中对于参数和返回值的处理类之前也提到过,分别是org.springframework.messaging.handler.invocation.HandlerMethodArgumentResolver、org.springframework.messaging.handler.invocation.HandlerMethodReturnValueHandler。

它们的类名一模一样,甚至内部的方法名也一样。

总结

10.png

上图是 SCS 体系相关类说明的总结,关于 SCS 以及 RocketMQ Binder 更多相关的示例,可以参考 ,包含了消息的聚合、分割、过滤;消息异常处理;消息标签、SQL 过滤;同步、异步消费等等。

阅读(895) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~