day9 线程、进程和协程深入版

Python线程

Threading用于提供线程相关的操作，线程是应用程序中工作的最小单元。

import threading
import time


def show(arg):
    time.sleep(1)
    print("thread" + str(arg))


for i in range(10):
    t = threading.Thread(target=show, args=(i,))
    t.start()

print("main thread stop")

上述代码创建了10个“前台”线程，然后控制器就交给了CPU，CPU根据指定算法进行调度，分片执行指令。

更多方法：

• start            线程准备就绪，等待CPU调度
• setName      为线程设置名称
• getName      获取线程名称
• setDaemon   设置为后台线程或前台线程（默认）
                     如果是后台线程，主线程执行过程中，后台线程也在进行，主线程执行完毕后，后台线程不论成功与否，均停止
                      如果是前台线程，主线程执行过程中，前台线程也在进行，主线程执行完毕后，等待前台线程也执行完成后，程序停止
• join              逐个执行每个线程，执行完毕后继续往下执行，该方法使得多线程变得无意义

                 *   run              线程被cpu调度后自动执行线程对象的run方法

自定义线程类：

import threading
import time
 
 
class MyThread(threading.Thread):
    def __init__(self,num):
        threading.Thread.__init__(self)
        self.num = num
 
    def run(self):#定义每个线程要运行的函数
 
        print("running on number:%s" %self.num)
 
        time.sleep(3)
 
if __name__ == '__main__':
 
    t1 = MyThread(1)
    t2 = MyThread(2)
    t1.start()
    t2.start()

线程锁（Lock、RLock）

由于线程之间是进行随机调度，并且每个线程可能只执行n条执行之后，当多个线程同时修改同一条数据时可能会出现脏数据，所以，出现了线程锁 - 同一时刻允许一个线程执行操作。

未使用锁：

#!/usr/bin/env python3

# -*- coding: utf-8 -*-

import threading
import time

num = 0

def task(arg):
    time.sleep(1)
    global num
    num += 1
    print(num)


for i in range(15):
    t = threading.Thread(target=task, args=(i,))
    t.start()

使用锁：

#!/usr/bin/env python3

# -*- coding: utf-8 -*-

import threading
import time

lock = threading.BoundedSemaphore(3)

num = 0

def task(arg):
    lock.acquire()
    time.sleep(1)
    global num
    num += 1
    print(num)
    lock.release()


for i in range(15):
    t = threading.Thread(target=task, args=(i,))
    t.start()

信号量（Semaphore）

互斥锁 同时只允许一个线程更改数据，而Semaphore是同时允许一定数量的线程更改数据 ，比如厕所有3个坑，那最多只允许3个人上厕所，后面的人只能等里面有人出来了才能再进去。

import threading,time
 
def run(n):
    semaphore.acquire()
    time.sleep(1)
    print("run the thread: %s" %n)
    semaphore.release()
 
if __name__ == '__main__':
 
    num= 0
    semaphore  = threading.BoundedSemaphore(5) #最多允许5个线程同时运行
    for i in range(20):
        t = threading.Thread(target=run,args=(i,))
        t.start()

条件（Condition）

使得线程等待，只有满足某条件时，才释放n个线程

import threading
 
def run(n):
    con.acquire()
    con.wait()
    print("run the thread: %s" %n)
    con.release()
 
if __name__ == '__main__':
 
    con = threading.Condition()
    for i in range(10):
        t = threading.Thread(target=run, args=(i,))
        t.start()
 
    while True:
        inp = input('>>>')
        if inp == 'q':
            break
        con.acquire()
        con.notify(int(inp))
        con.release()

代码:

def condition_func():

    ret = False
    inp = input('>>>')
    if inp == '1':
        ret = True

    return ret


def run(n):
    con.acquire()
    con.wait_for(condition_func)
    print("run the thread: %s" %n)
    con.release()

if __name__ == '__main__':

    con = threading.Condition()
    for i in range(10):
        t = threading.Thread(target=run, args=(i,))
        t.start()

Timer

定时器，指定n秒后执行某操作

#!/usr/bin/env python3

# -*- coding: utf-8 -*-

from threading import Timer

def hello():
    print("Hello, word")

t = Timer(2, hello)
t.start()

Python 进程

#!/usr/bin/env python3

# -*- coding: utf-8 -*-

from multiprocessing import Process
import threading
import time

def task(arg):
    print(arg)

for i in range(10):
    p = Process(target=task, args=(i,))
    p.start()

注意：由于进程之间的数据需要各自持有一份，所以创建进程需要的非常大的开销。

 

进程数据共享

进程各自持有一份数据，默认无法共享数据

方法一：Array

#!/usr/bin/env python3

# -*- coding: utf-8 -*-

from multiprocessing import Process,Array
from threading import Thread
import time

def task(num, li):
    # li.append(num)
    li[num] = 1
    print(list(li))

if __name__ == "__main__":
    v = Array("i", 10)
    for i in range(10):
        p = Process(target=task, args=(i,v,))
        p.start()

方法二：manage.dict()共享数据

from multiprocessing import Process,Manager
from threading import Thread
import time

def task(num, li):
    li.append(num)
    # li[num] = 1
    print(li)

if __name__ == "__main__":
    ###特殊的字典
    obj = Manager()
    v = obj.list()
    for i in range(10):
        p = Process(target=task, args=(i,v,))
        p.start()
        p.join()
    input(">>>")

协程

线程和进程的操作是由程序触发系统接口，最后的执行者是系统；协程的操作则是程序员。

协程存在的意义：对于多线程应用，CPU通过切片的方式来切换线程间的执行，线程切换时需要耗时（保存状态，下次继续）。协程，则只使用一个线程，在一个线程中规定某个代码块执行顺序。

协程的适用场景：当程序中存在大量不需要CPU的操作时（IO），适用于协程；

greenlet

#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
 
from greenlet import greenlet
 
 
def test1():
    print(12)
    gr2.switch()
    print(34)
    gr2.switch()
 
 
def test2():
    print(56)
    gr1.switch()
    print(78)
    
if __name__=="__main__"
    gr1 = greenlet(test1)
    gr2 = greenlet(test2)
    gr1.switch()

gevent

#!/usr/bin/env python3

# -*- coding: utf-8 -*-

from gevent import monkey; monkey.patch_all()
import gevent
import requests

def f(url):
    response = requests.get(url)
    print(response.url,response.status_code)

gevent.joinall([
        gevent.spawn(f, 'http://www.jd.com/'),
        gevent.spawn(f, 'http://www.baidu.com/'),
        gevent.spawn(f, 'http://www.taobao.com/'),
])