11.python并发入门(part10 多进程之间实现通信,以及进程之间的数据共享)

简介:

一、进程队列。

多个进程去操作一个队列中的数据,外观上看起来一个进程队列,只是一个队列而已,单实际上,你开了多少个进程,这些进程一旦去使用这个队列,那么这个队列就会被复制多少份。

(队列=管道+锁)

这么做的主要原因就是,不同进程之间的数据是无法共享的。

下面是使用进程队列使多进程之间互相通信的示例:

下面这个例子,就是往进程队列里面put内容。

#!/usr/local/bin/python2.7

# -*- coding:utf-8 -*-

import multiprocessing

def func1(que,n):

    que.put(n+1)

    print "son process queue id is %s:" %(id(que))

if __name__ == '__main__':

    q1 = multiprocessing.Queue()  #生成一个进程队列!!!!这个队列和普通队列是不同的!!

    print "main process queue id is %s:" %(id(q1))

    for i in range(3):

        p = multiprocessing.Process(target=func1,args=(q1,i))

        p.start()

    print q1.get()

    print q1.get()

    print q1.get()


输出结果:

#windows和类unix系统运行的结果是不一样的!!在windows系统下,进程队列的id号是不同的!!

main process queue id is 4459325136:

son process queue id is 4459325136:

1

son process queue id is 4459325136:

2

son process queue id is 4459325136:

3


二、通过管道来实现进程间通信。

下面是使用管道的方式让两个进程通信的示例。

下面这段代码主要实现了父进程给子进程互相发送消息。

#!/usr/local/bin/python2.7

# -*- coding:utf-8 -*-

import multiprocessing

def func1(conn):

    conn.send("hi daddy!") #子进程给父进程发送内容。

    response = conn.recv() #子进程等待接收父进程发来的内容。

    print "respnse:%s" %(response)

    conn.close()

    print "child conn id %s" %(id(child_conn))

if __name__ == '__main__':

    parent_conn,child_conn = multiprocessing.Pipe() #使用multiprocessing的pipe类来创建出两个双向的管道对象,注意哦,这两个管道都是双向的,可以收也可以发。

    print "main child conn: %s" %(id(child_conn))

    p = multiprocessing.Process(target=func1,args=(child_conn,))

    p.start()

    print parent_conn.recv() #父进程等待接收子进程的内容。

    parent_conn.send("hi child!")  #父进程给子进程发送内容。

    p.join()

使用pipe类生成的两个管道相当于两部电话,一个给了父进程,另一个给了子进程。

官方说法如下:

The two connection objects returned by Pipe() represent the two ends of the pipe. Each connection object has send() and recv() methods (among others). Note that data in a pipe may become corrupted if two processes (or threads) try to read from or write to the same end of the pipe at the same time. Of course there is no risk of corruption from processes using different ends of the pipe at the same time.

pipe对象会创建出两个链接对象(管道),每个链接对象(管道)的两端,都可以send(发送),recv(接收)等。

不过需要注意的是!两个进程或者线程同时,去读取或者写入管道的同一端,那么数据很有可能会损坏!!


总结下进程队列和管道之间的关系:

管道和进程队列,实现的都是两个子进程之间,以及父进程和子进程之间的通信功能,它们做的都是同一件事,只不过是实现的方法不一样,它们完成的都只是进程和进程之间的通信,注意!!只是数据通信!!而不是数据共享!这个概念不要弄混了!

那什么是真正的数据共享?

当一个进程去修改某个数据,另外一个进程内部也会产生变化,这才是真正意义上在多进程之间实现的数据共享。

在举一个比较好理解的例子,假如一个列表里面有三个元素,进程1去这个列表中删除一个元素,进程2再去print这个列表时,这个列表里只剩下了两个元素。


那么如何去实现进程间的数据共享?这就要由Manager去实现了。


三、使用Manager来实现进程和进程间的数据共享。

队列和管道只是实现了数据交互,并没实现数据共享,共享就是一个进程去更改另一个进程的数据。

官方对于Managers的介绍:

A manager object returned by Manager() controls a server process which holds Python objects and allows other processes to manipulate them using proxies.

 Manager()会返回一个 Manager对象,它控制一个python服务进程,并允许其他进程使用代理的方式来操作它们


下面是manger对象都支持哪些数据类型?

A manager returned by Manager() will support types list, dict, Namespace, Lock, RLock, Semaphore, BoundedSemaphore, Condition, Event, Barrier, Queue, Value and Array. For example:


列表,字典,名称空间(变量),锁,递归锁,信号量,条件变量,事件,队列...等...因为有些类型博主也没有接触过......


下面是个进程间实现数据共享的例子:

#!/usr/local/bin/python2.7

# -*- coding:utf-8 -*-

import multiprocessing

def func1(dic_1,list_1,name):

    dic_1[name] = 'test'

    #dic_1['num'] = 123

    list_1.append(name)

    print "son process dict id:%s list id :%s " %(id(dic_1),id(list_1))

if __name__ == '__main__':

    with multiprocessing.Manager() as manager:

        d1 = manager.dict()  #注意这里!!如果字典和列表等数据类型,想要被进程之间共享,必须要使用manager下面封装好的类!!

        l1 = manager.list()  #这里使用的也是manager中已经封装好的特殊list!

        print "main process dict id:%s list id :%s " %(id(d1),id(l1))

        pro_list = []

        for i in range(10):

            p = multiprocessing.Process(target=func1,args=(d1,l1,str(i),))

            p.start()

            pro_list.append(p)

        for res in pro_list:

            res.join()

            print d1

            print l1






      本文转自苏浩智 51CTO博客,原文链接:http://blog.51cto.com/suhaozhi/1925925,如需转载请自行联系原作者


相关文章
|
2天前
|
机器学习/深度学习 人工智能 数据可视化
Python编程入门:从零开始探索编程的奇妙世界
这篇教程引导初学者入门Python编程,从安装Python开始,逐步讲解基本语法,如`print()`、变量、条件判断、循环以及自定义函数。文章强调了Python在数据处理、数据分析、人工智能和机器学习等领域的重要性,并鼓励学习者探索Python的广泛应用,开启编程之旅。
|
3天前
|
数据可视化 API Python
Python零基础“圣经”!300W小白从入门到精通首选!
今天分享的这本书在让你尽快学会 Python基础知识的同时,能够编写并正确的运行程序(游戏、数据可视化、Web应用程序) 最大的特色在于,在为初学者构建完整的 Python 语言知识体系的同时,面向实际应用情境编写代码样例,而且许多样例还是 后续实践项目部分的伏笔。实践项目部分的选题经过精心设计,生动详尽 又面面俱到。相信这本书能够得到更多 Python 初学者的喜爱。
小白入门必备!计算机科学教程的Python精要参考PDF开放下载!
随着互联网产业的高速发展,在网络上早已积累了极其丰富的Python学习资料,任何人都可以基于这些资源,自学掌握 Python。 但实际上,网络上充斥的资源太多、太杂且不成体系,在没有足够的编程/工程经验之前,仅靠“看”线上资源自学,的确是一件非常困难的事。
|
5天前
|
安全 Python
Python 多进程日志输出到同一个文件并实现日志回滚
Python 多进程想要实现将日志输出到同一个文件中,使用同一个日志句柄,且日志需要按照日期,大小回滚。
|
6天前
|
Linux 开发工具 Python
初学者从无到有的Python语言如何入门,这份Python学习路线赶紧带走_python 从无到(1)
初学者从无到有的Python语言如何入门,这份Python学习路线赶紧带走_python 从无到(1)
初学者从无到有的Python语言如何入门,这份Python学习路线赶紧带走_python 从无到(1)
|
6天前
|
数据采集 算法 Python
2024年Python最全python基础入门:高阶函数,小米面试编程题
2024年Python最全python基础入门:高阶函数,小米面试编程题
|
6天前
|
存储 数据采集 数据挖掘
真正零基础Python入门:手把手教你从变量和赋值语句学起
真正零基础Python入门:手把手教你从变量和赋值语句学起
|
C++ Python
Python入门学习(1)
Python入门学习(1)
|
机器学习/深度学习 数据采集 人工智能
Python入门学习
每一种语言都有各自的思想和优势。或许了解一下,在进行本行的工作时,难免就会想起其他语言的解决方法。何况是人工智能语言非常广泛的python呢
Python入门学习
|
算法 数据可视化 小程序
为学弟学妹精心整理的 python 系统入门学习
为学弟学妹精心整理的 python 系统入门学习
222 0
为学弟学妹精心整理的 python 系统入门学习