Python 中通过队列来实现进程间通信

Python程序中，在进程和进程之间是不共享全局变量的数据的。

我们来看一个例子：

from multiprocessing import Process
import os
import time

nums = [11, 22]


def work1():
    """子进程要执行的代码"""
    print("in process1 pid=%d ,nums=%s" % (os.getpid(), nums))
    for i in range(3):
        nums.append(i)
        time.sleep(1)
        print("in process1 pid=%d ,nums=%s" % (os.getpid(), nums))


def work2():
    """子进程要执行的代码"""
    print("in process2 pid=%d ,nums=%s" % (os.getpid(), nums))


if __name__ == "__main__":
    p1 = Process(target=work1)
    p1.start()
    p1.join()

    p2 = Process(target=work2)
    p2.start()

进程 p1 里对全局变量 nums 循环进行处理，进程 p2 将 nums 打印出来，发现 nums 的值没有变化。

运行结果：

in process1 pid=5788 ,nums=[11, 22]
in process1 pid=5788 ,nums=[11, 22, 0]
in process1 pid=5788 ,nums=[11, 22, 0, 1]
in process1 pid=5788 ,nums=[11, 22, 0, 1, 2]
in process2 pid=11832 ,nums=[11, 22]

通过队列完成进程间通信

但是进程(Process)之间有时需要通信，操作系统提供了很多机制来实现进程间的通信。

可以使用 multiprocessing 模块的 Queue 实现多进程之间的数据传递。

Queue 本身是一个消息队列程序，首先用一个小实例来演示一下 Queue 的工作原理：

from multiprocessing import Queue
# 初始化一个Queue对象，最多可接收三条put消息
q = Queue(3)  
q.put("消息1")
q.put("消息2")
print(q.full())  # False
q.put("消息3")
print(q.full())  # True

# 因为消息队列已满下面的try都会抛出异常
# 第一个try会等待2秒后再抛出异常
try:
    q.put("消息4", True, 2)
except:
    print("消息队列已满，现有消息数量:%s" % q.qsize())
# 第二个Try会立刻抛出异常
try:
    q.put_nowait("消息4")
except:
    print("消息列队已满，现有消息数量:%s" % q.qsize())

# 推荐的方式，先判断消息列队是否已满，再写入
if not q.full():
    q.put_nowait("消息4")

# 读取消息时，先判断消息列队是否为空，再读取
if not q.empty():
    for i in range(q.qsize()):
        print(q.get_nowait())

运行结果：

队列 Queue 的使用说明

初始化 Queue()对象时（例如：q=Queue()），若括号中没有指定最大可接收的消息数量，或数量为负值，那么就代表可接受的消息数量没有上限（直到内存的尽头）。

Queue.qsize()：返回当前队列包含的消息数量。

Queue.empty()：如果队列为空，返回True，反之False。

Queue.full()：如果队列满了，返回True，反之False。

Queue.get([block[, timeout]])：获取队列中的一条消息，然后将其从列队中移除，block 默认值为 True。

1. 如果 block 使用默认值，且没有设置 timeout（单位秒），消息队列如果为空，此时程序将被阻塞，停在读取状态，直到从消息队列读到消息为止；如果设置了 timeout，则会等待 timeout 秒，若还没读取到任何消息，则抛出 “Queue.Empty” 异常。
2. 如果 block 值为 False，消息列队如果为空，则会立刻抛出 “Queue.Empty” 异常。

Queue.get_nowait()：相当 Queue.get(False)。

Queue.put(item,[block[, timeout]])：将 item 消息写入队列，block 默认值为 True。

1. 如果 block 使用默认值，且没有设置 timeout（单位秒），消息队列如果已经没有空间可写入，此时程序将被阻塞，停在写入状态，直到从消息队列腾出空间为止；如果设置了timeout，则会等待 timeout 秒，若还没空间，则抛出 “Queue.Full” 异常。
2. 如果 block 值为 False，消息队列如果没有空间可写入，则会立刻抛出 “Queue.Full” 异常。

Queue.put_nowait(item)：相当Queue.put(item, False)。

Queue实例

我们以 Queue 为例，在父进程中创建两个子进程，一个往 Queue 里写数据，一个从 Queue 里读数据。

from multiprocessing import Process, Queue
import os
import time
import random


def write(q):
    # 写数据进程执行的代码:
    for value in ["A", "B", "C"]:
        print("Put %s to queue..." % value)
        q.put(value)
        time.sleep(random.random())


def read(q):
    # 读数据进程执行的代码:
    while True:
        if not q.empty():
            value = q.get(True)
            print("Get %s from queue." % value)
            time.sleep(random.random())
        else:
            break


if __name__ == "__main__":
    # 父进程创建Queue，并传给各个子进程：
    q = Queue()
    pw = Process(target=write, args=(q,))
    pr = Process(target=read, args=(q,))
    # 启动子进程pw，写入:
    pw.start()
    # 等待pw结束:
    pw.join()
    # 启动子进程pr，读取:
    pr.start()
    pr.join()
    print("")
    print("所有数据都写入并且读完")

运行结果：