转载

消息队列的流派之争

这篇文章的标题很难起,网上一翻全是各种MQ的性能比较,很容易让人以为我也是这么“粗俗”的人(o(╯□╰)o)。我这篇文章想要表达的是—— 它们根本不是一个东西,有毛的性能好比较?

MQ是什么

Message Queue(MQ),消息队列中间件。很多人都说: MQ通过将消息的发送和接收分离来实现应用程序的异步和解偶 ,这个给人的直觉是——MQ是异步的,用来解耦的,但是这个只是MQ的效果而不是目的。MQ真正的目的是为了 通讯 ,屏蔽底层复杂的通讯协议,定义了一套应用层的、更加简单的通讯协议。一个分布式系统中两个模块之间通讯要么是HTTP,要么是自己开发的TCP,但是这两种协议其实都是原始的协议。HTTP协议很难实现两端通讯——模块A可以调用B,B也可以主动调用A,如果要做到这个两端都要背上WebServer,而且还不支持长连接(HTTP 2.0的库根本找不到)。TCP就更加原始了,粘包、心跳、私有的协议,想一想头皮就发麻。MQ所要做的就是 在这些协议之上构建一个简单的“协议”——生产者/消费者模型 。MQ带给我的“协议”不是具体的通讯协议,而是更高层次 通讯模型 。它定义了两个对象——发送数据的叫生产者;消费数据的叫消费者, 提供一个SDK让我们可以定义自己的 生产者消费者 实现消息通讯而无视底层通讯协议。

MQ的流派

列出功能表来比较MQ差异或者来一场“MQ性能大比武”的做法都是比较扯的,首先要做的事情应该是分类。我理解的MQ分为两个流派

有broker

这个流派通常有一台服务器作为Broker,所有的消息都通过它中转。生产者把消息发送给它就结束自己的任务了,Broker则把消息主动推送给消费者(或者消费者主动轮询)。

  • 重Topic流

    kafka、JMS就属于这个流派,生产者会发送 key数据 到Broker,由Broker比较key之后决定给那个消费者。这种模式是我们最常见的模式,是我们对MQ最多的印象。在这种模式下一个topic往往是一个比较大的概念,甚至一个系统中就可能只有一个topic, topic某种意义上就是queue,生产者发送key相当于说:“hi,把数据放到 key 的队列中”。

消息队列的流派之争 如上图所示,Broker定义了三个队列,key1,key2,key3,生产者发送数据的时候会发送key1和data,Broker在推送数据的时候则推送data(也可能把key带上)。 虽然架构一样但是kafka的性能要比jms的性能不知道高到多少倍,所以基本这种类型的MQ只有kafka一种备选方案。如果你需要 一条暴力的数据流 (在乎性能而非灵活性)那么kafka是最好的选择。

  • 轻Topic流

这种的代表是RabbitMQ(或者说是AMQP)。生产者发送 key数据 ,消费者定义订阅的 队列 ,Broker收到数据之后会通过 一定的逻辑计算出key对应的队列,然后把数据交给队列

消息队列的流派之争 注意到了吗?这种模式下解耦了key和queue,在这种架构中queue是非常轻量级的(在RabbitMQ中它的上限取决于你的内存),消费者关心的只是自己的queue;生产者不必关心数据最终给谁只要指定key就行了,中间的那层映射在AMQP中叫exchange(交换机)。AMQP中有四种种exchange——Direct exchange:key就等于queue;Fanout exchange:无视key,给所有的queue都来一份;Topic exchange:key可以用“宽字符”模糊匹配queue;最后一个厉害了Headers exchange:无视key,通过查看消息的头部元数据来决定发给那个queue(AMQP头部元数据非常丰富而且可以自定义)。 这种结构的架构给通讯带来了很大的 灵活性 ,我们能想到的通讯方式都可以用这四种exchange表达出来。如果你需要一个 企业数据总线 (在乎灵活性)那么RabbitMQ绝对的值得一用。

无broker

此门派是AMQP的“叛徒”,某位道友嫌弃AMQP太“重”(那是他没看到用Erlang实现的时候是多么的行云流水) 所以设计了zeromq。这位道友非常睿智,他非常敏锐的意识到—— MQ是更高级的Socket,它是解决通讯问题的。 所以ZeroMQ被设计成了一个“库”而不是一个中间件,这种实现也可以达到——没有broker的目的。

消息队列的流派之争 节点之间通讯的消息都是发送到彼此的队列中,每个节点都既是 生产者又是消费者 。ZeroMQ做的事情就是封装出一套类似于scoket的API可以完成发送数据,读取数据。 如果你仔细想一下其实ZeroMQ是这样的

消息队列的流派之争 顿悟了吗?Actor模型,ZeroMQ其实就是一个 跨语言的、重量级的Actor模型邮箱库 。你可以把自己的程序想象成一个actor,zeromq就是提供 邮箱 功能的库;zeromq可以实现同一台机器的IPC通讯也可以实现不同机器的TCP、UDP通讯。 如果你需要一个强大的、灵活、野蛮的通讯能力,别犹豫zeromq。

MQ只能异步吗

答案是否定了,首先ZeroMQ支持 请求->应答模式 ;其次RabbitMQ提供了 RPC 是地地道道的同步通讯,只有JMS、kafka这种架构才只能做异步。我们很多人第一次接触MQ都是JMS之类的这种所以才会产生这种 错觉

总结

kafka,zeromq,rabbitmq代表了三种完全不同风格的MQ架构;关注点完全不同:

  • kafka在乎的是性能,速度

  • rabbitmq追求的是灵活

  • zeromq追求的是轻量级、分布式

如果你拿zeromq来做大数据量的传输功能,不是生产者的内存“爆掉”就是消费者被“压死”;如果你用kafka做通讯总线那绝对的不会快只能更慢;你想要rabbitmq实现分布式,那真的是难为它。

原文  http://mp.weixin.qq.com/s?__biz=MzIxMjAzMDA1MQ==&mid=2648945475&idx=1&sn=b9758fdc31925419f12a9ece1d27018d
正文到此结束
Loading...