ZMQ-[总结]

zeromq是一个快速的通讯库。 轻量级的消息队列

ZeroMQ（ØMQ/ZMQ）网络库的由来：“它提供一些跨多种传输协议（如进程内通讯、IPC、TCP和广播）的套接字供你使用。你可使用多种方式实现N对N的套接字连接，譬如：扇出、发布订阅、任务分发以及请求响应。”

建立在 socket 之上的 light-weight message queue。不再需要自己管理 tcp 分包。简单、实用。来自 iMatix 的一个库，iMatix 主要面向金融行业。（业务逻辑决定设计）

1.1优点

c++的消息中间件zeromq

史上最强大的消息中间件，30us内完成消息传递，兼容多平台，多语言，很好

熟悉消息队列技术如rabbitmq，zeromq

高吞吐，低延时，超乎你的想象

支持多语言，支持windowns，linux和各种平台

它是个可伸缩层，分散在分布式系统间。因此，它可支持任意大的应用程序。ØMQ不是简单的点对点交互，相反，它定义了分布式系统的全局拓扑。ØMQ应用程序没有锁，可并行运行。此外，它可在多个线程、内核和主机盒之间弹性伸缩。

1.2Zmq特点

1)ZeroMQ交互是面向消息的。它将人们每天为应用程序周而复始地进行的例行消息处理封装起来。这意味着如果当客户端套接字发送一条150KB大小的消息时，服务端套接字无需显式处理任何缓存（buffer）或组帧，即能接接收到一条完整而相同的消息。 

2)ZeroMQ套接字与传输协议无关：对于任何协议，只有单一且统一的发送消息和接收消息API。缺省情况下支持进程内通讯、IPC、广播和TCP。此外，协议间切换非常简单，仅需更改连接字符串的前缀即可。 

3)ZeroMQ套接字能感知路由和网络拓扑。因为我们不再需要显示地管理点对点的连接状态——在上面我们已经看到，所有这些都已经由ZeroMQ库封装好——所以单个ZeroMQ套接字可以绑定两个的端口并监听他们的入站请求消息；也可使用一个API调用向两个的套接字发送数据。 

4)缺省情况下，ZeroMQ中所有的交互都是异步的。这种异步处理模型使得ZeroMQ能够将建立连接、销毁连接、重新连接的过程封装起来，同时又能实现消息传输延迟的最小化：非阻塞的含义是，应用中一般的消息处理都是并行进行的，如消息的发送、传输以及（在发送端或接收端）排队。当然，你也可以控制ZeroMQ的排队行为，只需要设定内存范围即可，甚至你还可以为每个套接字设定交换区域。所以，如果需要的话，你完全可以模拟阻塞式API，但是异步I/O是缺省的行为。 

无需多说，ZeroMQ是一个雄心满满项目，该简介对于完整的特性集而言只能略见一斑。ZeroMQ的明确目标是“成为标准网络协议栈的一部分，之后进入Linux内核”，现在还未看到它们的成功。但是，它无疑是极具前景的、并且是人们更加需要的“传统”BSD套接字之上的一层封装。 ZeroMQ让编写高性能网络应用程序极为简单和有趣。

1.3对比

经过比较选型，从多语言的支持的角度，最后筛选得到RabbitMQ和ZeroMQ两个选择。

RabbitMQ是采用Erlang开发的，支持完善的AMQP协议；ZeroMQ使用C语言开发，重点在于效率；两者均有多语言支持，其中ZeroMQ支持得较多。

比较看, RabbitMQ支持的AMQP协议，较为完整和复杂；而ZeroMQ的接口极为简单。速度上，还未对亲自对两者做压力测试。从网上的资料看，RabbitMQ较慢，几十个并发以内，延时为几十毫秒，但当客户端达到1000个并发的时候，速

度就无法容忍了（参考）；ZeroMQ上则据称可以达到13毫米延时和高达每秒4.1兆次传递（参考, 国内需要才能访问）。如果队列较多的话，RabbitMQ很容易把内存耗尽，而ZeroMQ则把队列内容保存在发送端。

?MQ is already very fast. We're getting 13.4 microseconds end-to-end latencies and up to 4.1 million messages a second today. (1G的网卡,8核AMD Opteron) 

zeromq的PUB/SUB网络模型

2zeromq解决了什么问题

最开始,考虑的问题是,zeromq和libevent,ACE这样定位的项目有什么区别没有?

1) libevent封装了对网络I/O,信号,定时器等的处理,可以基于它之上做网络层的开发.

2) ACE封装了不同平台下的系统调用,也提供好几种网络编程的模型.

然而,zeromq不是libevent,也不是ACE,因为它的主要特性是:面向消息进行通信.所以,它提供的是比libevent,ACE处在网络通信中更高一层的组件.使用它,程序员不再需要上面提到的libevent,ACE之类的库需要关心的东西,程序员如果要使用zeromq,只需要做如下的事情:

1) 告知所使用的patten,比如request-reply,pub-sub,push-pull等(下面会详细解释这个pattern).

2) 告知是用于机器之间,还是进程之间,线程之间的通信.

然后,将所需要发送的数据封装到zeromq自带的msg结构体中发送出去,使用者自己关心如何序列化/反序列化这些数据,然后如何处理这些数据就是使用者的事情了.

这样看上来,使用者要关注的事情”高”了一层,大部分的精力都可以放在业务逻辑之上了.简而言之,它让使用者的精力放在了通信模式和业务逻辑上,而不是更下面一层的网络层上.

下面解释一下zeromq常用的几种网络pattern:

1) request-reply

就是一般的C/S架构中,client与server之间一问一答的通信模式,比如最经典的echo服务.需要注意的是,client发送一个request,server必须有一个回应.

这个pattern并不是什么亮点,下面亮点来了.

2) publish-subscribe

server端作为publish端,而任何连接到服务端的client都会成为subscribe端.也就是说,server端会把当前的所有需要publish出去的消息全部发送到当前连接上去的client上.

3) push-pull

server端作为push端,而client端作为pull端.如果有多个client端同时连接到这个server,则服务器会在内部做一个负载均衡,采用平均分配的算法,将所有的消息均衡发布到client端上.

看上去,很稀松平常?接下来亮点真的来了.

2),3)两种模式中,无论是server端还是client端在启动时 都是不知道client实际数量的,这就意味着,一个使用zeromq搭建的服务,可以进行”热更新”.

考虑如下一种场景.一个server端做为一组服务器集群最上层的一个proxy,起到负载均衡的作用,将请求按照它下面对应服务器集群依次派发到不同的 client端进行处理.某个时刻可能处理的机器只有2台,而随着负载越来越大,可能需要3台机器了,这个时候如果使用zeromq的push-pull 搭建的proxy端,则可以不用对之前搭建的server,client端进行停机,只需要新启动一个client连接上去,proxy层就会自动根据当前的机器分配平均派发任务了.cool.

实际上,这些模式并不是什么新东西,只不过zeromq为使用者做了一个封装,而不是像libevent,ACE等还局限在网络层部分的封装,它关注的是通信层,通信模式等.

个人感觉,zeromq部分解决 了erlang所要解决的问题:在多台机器中通信,派发任务等,是分布式通信的利器,但是局限于语言的,它没有办法做的跟erlang一样的完善(erlang已经可以算的上一个简易微型的OS了),但是许多的时候,似乎只使用这一部分功能也就足够了.

zeromq的代码量,截至到我目前阅读的2.0.10-stable版本,也只有不到2W行代码.提供出去的API也极为简单,但是内部的实现比较”绕”,zeromq是我阅读过的项目中少数的非常需要依赖调试工具跟进代码才能看懂代码流程的项目,同时代码中类的继承层次也比较多,阅读起来并不像它提供的API那样简单直白.后续会对其中的一些难点做一些分析.

3ZeroMQ 的模式

在需要并行化处理数据的时候，采用消息队列通讯的方式来协作，比采用共享状态的方式要好的多。Erlang ，Go 都使用这一手段来让并行任务之间协同工作。

最近读完了 ZeroMQ 的 Guide。写的很不错。前几年一直有做类似的工作，但是自己总结的不好。而 ZeroMQ 把消息通讯方面的模式总结的很不错。

ZeroMQ 并不是一个对 socket 的封装，不能用它去实现已有的网络协议。它有自己的模式，不同于更底层的点对点通讯模式。它有比 tcp 协议更高一级的协议。（当然 ZeroMQ 不一定基于 TCP 协议，它也可以用于进程间和进程内通讯。）它改变了通讯都基于一对一的连接这个假设。

ZeroMQ 把通讯的需求看成四类。其中一类是一对一结对通讯，用来支持传统的 TCP socket 模型，但并不推荐使用。常用的通讯模式只有三类。

1.请求回应模型。由请求端发起请求，并等待回应端回应请求。从请求端来看，一定是一对对收发配对的；反之，在回应端一定是发收对。请求端和回应端都可以是 1:N 的模型。通常把 1 认为是 server ，N 认为是 Client 。ZeroMQ 可以很好的支持路由功能（实现路由功能的组件叫作 Device），把 1:N 扩展为 N:M （只需要加入若干路由节点）。从这个模型看，更底层的端点地址是对上层隐藏的。每个请求都隐含有回应地址，而应用则不关心它。

2.发布订阅模型。这个模型里，发布端是单向只发送数据的，且不关心是否把全部的信息都发送给订阅端。如果发布端开始发布信息的时候，订阅端尚未连接上来，这些信息直接丢弃。不过一旦订阅端连接上来，中间会保证没有信息丢失。同样，订阅端则只负责接收，而不能反馈。如果发布端和订阅端需要交互（比如要确认订阅者是否已经连接上），则使用额外的 socket 采用请求回应模型满足这个需求。

3.管道模型。这个模型里，管道是单向的，从 PUSH 端单向的向 PULL 端单向的推送数据流。

任何分布式，并行的需求，都可以用这三种模型组合起来解决问题。ZeroMQ 只专注和解决了消息通讯这一基本问题，干的非常漂亮。

基于定义好的模型，我们可以看到，api 可以实现的非常简单易用。我们不再需要 bind/listen/accept 来架设服务器，因为这个模型天然是 1:N 而不是 1:1 的，不需要为每个通道保留一个句柄。我们也不必在意 server 是否先启动（bind），而后才能让 client 工作起来（connect）。

这以上模型中，关注的是通讯双方的职责，而不是实现的方式：监听端口还是连接对方端口。对于复杂的多进程协同工作的系统, 不必纠结于进程启动的次序（在我前几年设计的系统中，启动脚本写起来就非常麻烦）。

使用 ZeroMQ 不必在意底层实现是使用短连接还是长连接方式。ZeroMQ 中的 Transient (短暂) 和 Durable (持久) socket 也并非区别于实现层是否保持了 tcp 连接。而是概念上的不同。对于 Durable socket ，其生命期可以长于一个进程的生命期，即使进程退出，再次启动后依旧可以维持继续之前的 socket 。当然，这并不是帮助你挽救你的程序因出错而崩溃的。它只是提出这个模式，让你根据设计需要可以实现。对于 ZeroMQ ，如有需求（若内存有限），甚至把数据传输的 buffer 放到磁盘上。

对于网络游戏，我觉得基于 ZeroMQ 来架构服务器非常合适。对于玩家 Client - Server 部分倒不必使用 ZeroMQ ，而可以写一个前端程序，比如前些年写过的一篇 blog 中提到的连接服务器依然适用。这个连接服务器对内的服务集群则可以用 ZeroMQ 的协议通讯。

4开发注意事项

4.1zmq_msg_copy() 和 memcpy()区别

zmq_msg_copy() 和 memcpy()的作用是不一样的，zmq应该有自定义的数据块结构，zmq_msg_copy会把原有的成员对应的在目标msg的成员赋值。其中，指针不是深拷贝，ZMQ数据块是共享指针，ZMQ数据块上有引用计数器。

4.2zmq socket特性

zmq效率很高，而且是很小的开发包。zmq同时封装了TCP UDP 和UNIX DOMAIN socket等。Zmq负责管理连接和消息收、发、缓冲等。zmq没有单独的队列对象，zmq队列都是内部需要缓冲需要发送出去的但还没能发出去的消息，或者收到其他队列发过来的消息，用户还没取消息时zmq先缓存消息。

如果和对端的链路连接出问题，zmq会先在本地保存，但对无限保存缓冲消息的话总有内存上的的。

zmq的connect一次后，链路的维护zmq内部有处理。就是说发了一次包后，长时间才发第二次，这样的情况也支持。zmq负责管理链路连接，connect调用后其实底层真实的连接可能还没建立的，zmq会自动尝试连接。就是说connct一次就可以了，然后就算链路断了，再send它也会重新连接。

4.3req/resp网络模式

这种模式下，server接收了一条req，必须要回复一个resp才能进入下一轮的监听，否则，没回复就进入下一轮监听会出现错误。

5待续