python中,由于GIL会导致多线程只是并发,无法真正的并行,因此对于多个没有bug的,并且实际并不需要并发实现的任务来说,在同一时刻始终只有一个cpu在工作,所以多线程并不会节省总体的运行时间,所以python中的多线程实际上是为了实现并发需求,对于提高效率没有多大用处;所以要是需要提高效率,可以用多进程,因为每个进程都有自己独立的全局锁,进程之间不会干扰,所以可以通过多进程来充分利用cpu资源。
对于线程数量或者进程数量的选择也是需要考虑的,由于当线程数或进程数大于电脑cpu核心时,如果是并发或并行的话,那么cpu会在不同的进程或线程之间快速转换,而转换也是需要消耗cpu资源的,如果cpu资源本身就不多,那么转换可能会很消耗时间,反而造成程序效率下降;一般的,对于IO密集型任务,由于其对cpu资源占用不多,因此转换起来会很快,这时可以多设置些线程或进程,而对于cpu密集型任务,由于每个任务线程或进程对cpu资源占据很大,因此转换起来就会耗费时间,这时最好就不要让线程或进程数过多,因为进程数过多,不管cpu的调度算法是什么,最终会增加cpu转换频率,而这可能造成额外的时间和资源的浪费;当然,Python中,对于cpu密集型任务,如果有多个cpu核心,则一般使用多进程来充分利用多个cpu核心。当然,如果不需要并发或并行,自然就不会存在这个问题了。
所以总结起来就是两点:
1、关于多进程还是多线程的选择:如果是为了提高效率,则目的就是为了充分利用cpu资源,这时对于多核cpu的系统来说,选择多进程,如果只是为了实现并发,或者是IO密集型任务,则选择多线程即可;
2、关于线程数和进程数的选择:对于IO密集型任务,线程数量一般不重要,不会造成太大影响,具体取决于任务;对于cpu密集型任务,用多进程处理,并且进程数最好不要过多,但是具体合理的数量取决于cpu调度算法和具体任务,只是说明并非数量越多越好。
我们改如何解决GIL锁的问题呢?
1.更换cpython为jpython(不建议)
2.使用多进程完成多线程的任务
3.在使用多线程可以使用c语言去实现
以下是几个面试会遇到的问题,希望对大家有所帮助:
问题1: 什么时候会释放Gil锁,
答 :
1 遇到像 i/o操作这种 会有时间空闲情况 造成cpu闲置的情况会释放Gil
2 会有一个专门ticks进行计数 一旦ticks数值达到100 这个时候释放Gil锁 线程之间开始竞争Gil锁(说明:
ticks这个数值可以进行设置来延长或者缩减获得Gil锁的线程使用cpu的时间)
问题2: 互斥锁和Gil锁的关系
Gil锁 : 保证同一时刻只有一个线程能使用到cpu
互斥锁 : 多线程时,保证修改共享数据时有序的修改,不会产生数据修改混乱
首先假设只有一个进程,这个进程中有两个线程 Thread1,Thread2, 要修改共享的数据date, 并且有互斥锁
执行以下步骤
(1)多线程运行,假设Thread1获得GIL可以使用cpu,这时Thread1获得 互斥锁lock,Thread1可以改date数据(但并
没有开始修改数据)
(2)Thread1线程在修改date数据前发生了 i/o操作 或者 ticks计数满100 (注意就是没有运行到修改data数据),这个
时候 Thread1 让出了Gil,Gil锁可以被竞争
(3) Thread1 和 Thread2 开始竞争 Gil (注意:如果Thread1是因为 i/o 阻塞 让出的Gil Thread2必定拿到Gil,如果
Thread1是因为ticks计数满100让出Gil 这个时候 Thread1 和 Thread2 公平竞争)
(4)假设 Thread2正好获得了GIL, 运行代码去修改共享数据date,由于Thread1有互斥锁lock,所以Thread2无法更改共享数据
date,这时Thread2让出Gil锁 , GIL锁再次发生竞争
(5)假设Thread1又抢到GIL,由于其有互斥锁Lock所以其可以继续修改共享数据data,当Thread1修改完数据释放互斥锁lock,
Thread2在获得GIL与lock后才可对data进行修改
以上描述了 互斥锁和Gil锁的 一个关系
作者:python胶水语言
来源:CSDN
原文:https://blog.csdn.net/weixin_41594007/article/details/79485847
版权声明:本文为博主原创文章,转载请附上博文链接!
来源:CSDN
原文:https://blog.csdn.net/S_o_l_o_n/article/details/86300758
版权声明:本文为博主原创文章,转载请附上博文链接!