设为首页 - 加入收藏 鹤岗站长网 (http://www.0468zz.com)- 国内知名站长资讯网站,提供最新最全的站长资讯,创业经验,网站建设等!
热搜: 销量 业绩 数据中心
当前位置: 首页 > 亚博体育app好吗 > 外闻 > 正文

RPC 服务器之【多进程描述符传递】高阶模型

发布时间:2019-07-06 20:25 所属栏目:[外闻] 来源:码洞
导读:今天老师要给大家介绍一个比较特别的 RPC 服务器模型,这个模型不同于 Nginx、不同于 Redis、不同于 Apache、不同于 Tornado、不同于 Netty,它的原型是 Node Cluster 的多进程并发模型。 Nginx 并发模型 我们知道 Nginx 的并发模型是一个多进程并发模型,

今天老师要给大家介绍一个比较特别的 RPC 服务器模型,这个模型不同于 Nginx、不同于 Redis、不同于 Apache、不同于 Tornado、不同于 Netty,它的原型是 Node Cluster 的多进程并发模型。

RPC 服务器之【多进程描述符传递】高阶模型

Nginx 并发模型

我们知道 Nginx 的并发模型是一个多进程并发模型,它的 Master 进程在绑定监听地址端口后 fork 出了多个 Slave 进程共同竞争处理这个服务端套接字接收到的很多客户端连接。

RPC 服务器之【多进程描述符传递】高阶模型

这多个 Slave 进程会共享同一个处于操作系统内核态的套接字队列,操作系统的网络模块在处理完三次握手后就会将套接字塞进这个队列。这是一个生产者消费者模型,生产者是操作系统的网络模块,消费者是多个 Slave 进程,队列中的对象是客户端套接字。

这种模型在负载均衡上有一个缺点,那就是套接字分配不均匀,形成了类似于贫富分化的局面,也就是「闲者愈闲,忙者愈忙」的状态。这是因为当多个进程竞争同一个套接字队列时,操作系统采用了 LIFO 的策略,最后一个来 accept 的进程最优先拿到 套接字。越是繁忙的进程越是有更多的机会调用 accept,它能拿到的套接字也就越多。

RPC 服务器之【多进程描述符传递】高阶模型

Node Cluster 并发模型

Node Cluster 为了解决负载均衡问题,它采用了不同的策略。它也是多进程并发模型,Master 进程会 fork 出多个子进程来处理客户端套接字。但是不存在竞争问题,因为负责 accept 套接字的只能是 Master 进程,Slave 进程只负责处理客户端套接字请求。那就存在一个问题,Master 进程拿到的客户端套接字如何传递给 Slave 进程。

RPC 服务器之【多进程描述符传递】高阶模型

这时,神奇的 sendmsg 登场了。它是操作系统提供的系统调用,可以在不同的进程之间传递文件描述符。sendmsg 会搭乘一个特殊的「管道」将 Master 进程的套接字描述符传递到 Slave 进程,Slave 进程通过 recvmsg 系统调用从这个「管道」中将描述符取出来。这个「管道」比较特殊,它是 Unix 域套接字。普通的套接字可以跨机器传输消息,Unix 域套接字只能在同一个机器的不同进程之间传递消息。同管道一样,Unix 域套接字也分为有名套接字和无名套接字,有名套接字会在文件系统指定一个路径名,无关进程之间都可以通过这个路径来访问 Unix 域套接字。而无名套接字一般用于父子进程之间,父进程会通过 socketpair 调用来创建套接字,然后 fork 出来子进程,这样子进程也会同时持有这个套接字的引用。后续父子进程就可以通过这个套接字互相通信。

RPC 服务器之【多进程描述符传递】高阶模型

注意这里的传递描述符,本质上不是传递,而是复制。父进程的描述符并不会在 sendmsg 自动关闭自动消失,子进程收到的描述符和父进程的描述符也不是同一个整数值。但是父子进程的描述符都会指向同一个内核套接字对象。

有了描述符的传递能力,父进程就可以将 accept 到的客户端套接字轮流传递给多个 Slave 进程,负载均衡的目标就可以顺利实现了。

接下来我们就是用 Python 代码来撸一遍 Node Cluster 的并发模型。因为 sendmsg 和 recvmsg 方法到了 Python3.5 才内置进来,所以下面的代码需要使用 Python3.5+才可以运行。

我们看 sendmsg 方法的定义

  1. socket.sendmsg(buffers[,?ancdata[,?flags[,?address]]])?

我们只需要关心第二个参数 ancdata,描述符是通过ancdata 参数传递的,它的意思是 「辅助数据」,而 buffers 表示需要传递的消息内容,因为消息内容这里没有意义,所以这个字段可以任意填写,但是必须要有内容,如果没有内容,sendmsg 方法就是一个空调用。

  1. import?socket,?structdef?send_fds(sock,?fd):?return?sock.sendmsg([b'x'],?[(socket.SOL_SOCKET,?socket.SCM_RIGHTS,?struct.pack("i",?fd))])#?ancdata?参数是一个三元组的列表,三元组的第一个参数表示网络协议栈级别?level,第二个参数表示辅助数据的类型?type,第三个参数才是携带的数据,level=SOL_SOCKET?表示传递的数据处于?TCP?协议层级,type=SCM_RIGHTS?就表示携带的数据是文件描述符。我们传递的描述符?fd?是一个整数,需要使用?struct?包将它序列化成二进制。?

再看 recvmsg 方法的定义

  1. msg,?ancdata,?flags,?addr?=?socket.recvmsg(bufsize[,?ancbufsize[,?flags]])?

同样,我们只需要关心返回的 ancdata 数据,它里面包含了我们需要的文件描述符。但是需要提供消息体的长度和辅助数据的长度参数。辅助数据的长度比较特殊,需要使用 CMSG_LEN 方法来计算,因为辅助数据里面还有我们看不到的额外的头部信息。

  1. bufsize?=?1??#?消息内容的长度?
  2. ancbufsize?=?socket.CMSG_LEN(struct.calcsize('i'))??#?辅助数据的长度?
  3. msg,?ancdata,?flags,?addr?=?socket.recvmsg(bufsize,?ancbufsize)?#?收取消息?
  4. level,?type,?fd_bytes?=?ancdata[0]?#?取第一个元祖,注意发送消息时我们传递的是一个三元组的列表?
  5. fd?=?struct.unpack('i',?fd_bytes)?#?反序列化?

代码实现

【免责声明】本站内容转载自互联网,其相关言论仅代表作者个人观点绝非权威,不代表本站立场。如您发现内容存在版权问题,请提交相关链接至邮箱:bqsm@foxmail.com,我们将及时予以处理。

网友评论
推荐文章