多进程概念:
由于GIL的存在,python中的多线程其实并不是真正的多线程,如果想要充分地使用多核CPU的资源,在python中大部分情况需要使用多进程。python提供了非常好用的多线程包(multiprocessing),只需要定义一个函数,Python会完成其他所有事情。借助这个包,可以轻松完成从单进程到并发执行的转换。multiprocessing支持子进程、通信和共享数据、执行不同形式的同步,提供了Process、Queue、Pipe、Lock等组件。
multiprocessing包是Python中的多进程管理包。与threading.Thread类似,它可以利用multiprocessing.Process对象来创建一个进程。该进程可以运行在Python程序内部编写的函数。该Process对象与Thread对象的用法相同,也有start(), run(), join()的方法。此外multiprocessing包中也有Lock/Event/Semaphore/Condition类 (这些对象可以像多线程那样,通过参数传递给各个进程),用以同步进程,其用法与threading包中的同名类一致。所以,multiprocessing的很大一部份与threading使用同一套API,只不过换到了多进程的情境。
但在使用这些共享API的时候,我们要注意以下几点:
- 在UNIX平台上,当某个进程终结之后,该进程需要被其父进程调用wait,否则进程成为僵尸进程(Zombie)。所以,有必要对每个Process对象调用join()方法 (实际上等同于wait)。对于多线程来说,由于只有一个进程,所以不存在此必要性。
- multiprocessing提供了threading包中没有的IPC(比如Pipe和Queue),效率上更高。应优先考虑Pipe和Queue,避免使用Lock/Event/Semaphore/Condition等同步方式 (因为它们占据的不是用户进程的资源)。
- 多进程应该避免共享资源。在多线程中,我们可以比较容易地共享资源,比如使用全局变量或者传递参数。在多进程情况下,由于每个进程有自己独立的内存空间,以上方法并不合适。此时我们可以通过共享内存和Manager的方法来共享资源。但这样做提高了程序的复杂度,并因为同步的需要而降低了程序的效率。
Process.PID中保存有PID,如果进程还没有start(),则PID为None。
window系统下,需要注意的是要想启动一个子进程,必须加上那句if __name__ == "main",进程相关的要写在这句下面。
1 from multiprocessing import Process 2 import time,os 3 4 5 def f(name): 6 time.sleep(1) 7 print('%s,父进程:%s;子进程:%s'%(name,os.getppid(),os.getpid())) 8 9 if __name__ == "__main__": 10 p_list=[] 11 for i in range(8): # 若进程数超过系统本身CPU的核数,就会发生进程的切换 12 p=Process(target=f,args=('Adair',)) 13 p_list.append(p) 14 p.start() 15 for i in p_list: 16 p.join() # 防止出现僵尸进程 17 18 print("父进程执行结束!")
类式调用:
1 from multiprocessing import Process 2 import time,os 3 4 class MyProcess(Process): 5 def __init__(self): 6 super(MyProcess,self).__init__() 7 8 def run(self): 9 time.sleep(1) 10 print('%s,父进程:%s;子进程:%s'%(self.name,os.getppid(),os.getpid())) 11 12 if __name__ == "__main__": 13 p_list=[] 14 for i in range(3): 15 p = MyProcess() 16 p.start() 17 p_list.append(p) 18 19 for i in p_list: 20 i.join() 21 22 print("父进程结束!")
Process类:
构造方法:
Process([group [,target [,name[,args[,kwarge]]]])
group:线程组,目前还没实现,库引用中提示必须是None
target:要执行的方法
name:进程名
args / kwargs:要传入方法的参数
实例方法:
is_alive():返回进程是否在运行
join([timeout]):阻塞当前上下文环境的进程,直到调用此方法的进程终止或者达到指定的timeout(可选参数)
start():进程准备就绪,等待CPU调度
run():start()调用run方法,如果实例进程时未指定传入的target,这start执行默认run()方法
terminate():不管任务是否完成,立即停止工作进程
属性:
authkey
daemon:和进程的setDeamon功能一样
exitcode(进程在运行时为None、如果为-N,表示被信号N结束)
name:进程名
pid:进程号
进程间通讯:
不同进程间内存是不共享的,要想实现两个进程间的数据交换,可以用一下方法:
Queues
使用方法跟threading里的queue类似:
1 from multiprocessing import Process,Queue 2 3 def foo(q,n): 4 q.put([42,n,"Adair."]) 5 6 if __name__ == "__main__": 7 q = Queue() 8 # print("q:",q) 9 p_list=[] 10 for i in range(3): 11 p = Process(target=foo,args=(q,i)) 12 p_list.append(p) 13 p.start() 14 print(p.pid) 15 print(q.get()) 16 print(q.get()) 17 print(q.get()) 18 19 for i in p_list: 20 i.join()