Python程序员都知道的入门知识の八

目录:
1. 多线程threading、Queue
2. 多进程multiprocessing
3. 小知识
目录【Python程序员都知道的入门知识】

python自学之路

1. 多线程threading、Queue

Python的多线程由threading和Queue来实现。
threading模块:用于创建和管理线程
Queue模块:用于实现线程间通讯和数据共享

1.1. threading

1.1.1. 概述threading

threading中包含的类:
Thread:线程的基本操作
Lock&RLock:多线程的互斥锁,实现线程同步
Event:用以协调线程的运行,实现线程间通信
Semaphore:用以确保一定资源多线程访问时的上限
Condition:用以实现复杂同步

threading的常用内置函数:
threading.currentThread():获取当前线程对象
threading.activeCount():获取当前正在运行的线程数量
threading.enumerate():获取当前正在运行的线程列表
threading.Lock():获取线程同步锁

1.1.2. threading.Thread

threading.Thread的常用内置函数:
start():启动线程的方法
run():线程运行的方法
setName():设置线程名
getName():获取线程名
isAlive():判断线程是否还是活跃状态
join([time]):等待线程终止
setDaemon(bool):守护线程,设置子线程是否随主线程一起销毁,默认为False
isDaemon():判断是否为守护线程

那么问题来了,怎么用Thread?有以下两种方式:
1、直接获取对象:

  • 导入threading模块
  • 实例化对象:
    mythread = threading.Thread(group=None, target=None, name=None, args=(), kwargs={})
    <a>留意参数:</a>
    group:必须为none,保留参数
    target:当run方法被执行时调用的对象
    name:线程名
    args:target可能需要调用到的元组参数
    kwangs:target可能需要调用到的字典参数
  • 启动线程:mythread.start()

2、继承threading.Thread:

  • 导入threading模块
  • 类继承threading.Thread类
  • 重写__init__()方法和run()方法
    <a>注意:</a>重写父类构造函数__init__()的时候首先要显式调用父类的构造函数:Thread.__init__()
Python官方文档说明

1.1.3. Lock的内置函数

acquire():上锁
release():释放锁

1.2 使用Queue队列

  • 导入Queue模块
  • 获取对象:Queue.Queue([maxsize]),当maxsize值小于1的时候表示容量无限大。

Queue的内置函数:
put(item,[block ,[timeout]]):往队列中写入内容,如果队列已满线程会进入等待,直到队列空出位置。
put_nowait(item):不等待直接写入内容,如果队列已满则直接抛出异常
get(block ,[timeout]]):获取队列内容,如果队列为空,线程会一直等到写入内容
get_nowait():不等待直接获取内容。如果队列内容为空会抛出异常,不让线程等待

<a>注意:</a>

  • block参数表示当队列已满或为空时是让线程等待还是直接抛出异常,1为暂停,默认值;0是直接抛出异常
  • 如果不希望在队列已满或队列为空时抛出异常,又不希望让线程等待太久,可以设置timeout,线程等待时间。此时block要同时手动设置为1
  • timeout超时时间单位为秒,不同于java为毫秒
Paste_Image.png

如果不想抛出异常或线程等待,操作前就做个判断吧:
qsize():获取队列已写入内容的数量
empty():判断队列是否有写入内容
full():判断队列是否已满

Paste_Image.png

join():等到队列为空时再作其他操作
task_done():发送任务完成的信号给阻塞的队列,调用次数要与放入队列的数据个数相等。
如下图所示,如果将箭头所指向的那两句self.q.task_done()都注释掉或者只注释掉其中一句都会出现像第一次运行结果那样无法打印出complete,程序也不会运行结束。

Paste_Image.png

队列的三种类型:

  • 先进先出FIFO:Queue
  • 后进先出LIFO:LifoQueue
  • 优先级队列:PriorityQueue

1.3. Demo

从网上摘抄了一个生产者与消费者的demo,并做了一些小修改(留意注释部分):

# -*- coding: cp936 -*-
import time
import threading
import Queue
import urllib2

threadLock = threading.Lock()

class Consumer(threading.Thread):
    def __init__(self,queue):
        threading.Thread.__init__(self)
        self._queue = queue

    def run(self):
        # 尝试在执行run方法时加入线程锁,试试看运行后的效果有什么差别
        # threadLock.acquire()
        print 'do run method'
        while True:
            content = self._queue.get()
            # 试试看休眠下会有什么影响
            # time.sleep(1)
            if isinstance(content,str) and content == 'quit':
                print ('content equals to quit',self.getName())
                break
            response = urllib2.urlopen(content)
            print ('open url',content,self.getName())
        print ('Bye byes!')
        # 上线程锁后,记得释放锁
        # threadLock.release()
        


def Producer():
    urls = [
        'http://www.python.org','http://www.baidu.com',
        '//www.greatytc.com','http://www.tianmao.com'
    ]
    queue = Queue.Queue()
    worker_threads = build_worker_pool(queue,4)
    start_time = time.time()

    for url in urls:
        queue.put(url)
        queue.put('quit')
    # 试试看把 queue.put('quit')放到放到独立的循环里会有什么影响:
    # for worker in worker_threads:
    #    queue.put('quit')
    for worker in worker_threads:
        worker.join()


    print 'Done Time taken:{}'.format(time.time() - start_time)


# 创建线程池,一个线程就是一个消费者
def build_worker_pool(queue,size):
    workers = []
    for _ in range(size):
        worker = Consumer(queue)
        worker.start()
        workers.append(worker)
    return workers

if __name__ == '__main__':
    Producer()

2. 多进程multiprocessing

导入模块:multiprocessing
获取对象:multiprocessing.Process()

2.1. 概述多进程

多进程与多线程使用相似的API:

  • multiprocessing包与threading一样,有Lock、Event、Condition、Semaphore等类
  • multiprocessing.Process类与threading.Thread的用法相同。

多进程与多线程的差别:

  • 每个进程对象应调用join()方法以避免出现僵尸进程
  • 独立的一套进程间通讯方式(IPC):Pipe,Queue
  • 不同于多线程,多进程应避免共享资源

2.2. multiprocessing.Pipe实现IPC

<a>Pipe实现的是两个进程间的通讯</a>
导入模块:import multiprocessing
获取对象:
multiprocessing.Pipe([False])
(加参数False时获取到的是单向管道对象)
往管道一端发送数据:send()
往管道另一端接收数据:recv()

2.3. multiprocessing.Queue实现IPC

<a>Queue实现的是多个进程间的通讯</a>
导入模块:import multiprocessing
获取对象:
multiprocessing.Queue([maxsize])
(maxsize表示的是队列的最大容量)
往进程队列中存入数据:put()
往进程队列抓取数据:get()

关于进程间通讯(IPC),网上找的这篇感觉还不错,抽时间再细看看:
进程间通讯(IPC)作者: ZH奶酪——张贺

3. 小知识

3.1. 给模块重命名

如果觉得multiprocessing太长,可以在导入模块的时候对其进行重命名,如:
import multiprocessing as mp

3.2. 理解:if name == 'main'

当当前模块被直接运行时,条件成立
当当前模块作为被导入模块时,条件不成立

3.3. xrange 与 range的区别

都是在一定范围内生成序列,但是xrange的性能会优于range
xrange不会像range一样立即生成一个list列表,而是先创建一个生成器(即xrange对象)。
xrange在创建成功后不会立即就开辟空间。

Paste_Image.png

3.4. 什么是守护线程

如果设置为守护线程,那么主线程结束会直接将其他线程结束掉,
如果不是守护线程,那么主线程结束后会等线程执行完毕。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 207,248评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,681评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 153,443评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,475评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,458评论 5 374
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,185评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,451评论 3 401
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,112评论 0 261
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,609评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,083评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,163评论 1 334
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,803评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,357评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,357评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,590评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,636评论 2 355
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,925评论 2 344

推荐阅读更多精彩内容