当前位置:网站首页 > 技术博客 > 正文

python多线程技术



线程(thread)是操作系统中能够进行运算的最小单位,包含于进程之中,一个进程可以有多个线程,这意味着一个进程中可以并发多个线程,即为多线程。

对于一个python程序,如果需要同时大量处理多个任务,有使用多进程和多线程两种方法。在python中,实现多线程主要通过threading模块,而多进程主要通过multiprocessing模块。

这两个模块的主要区别是:threading模块基于线程,而multiprocessing模块基于进程。threading模块使用共享内存来实现多线程,所有线程都共享一样的变量(这点在后续的实例中可以感受到);而multiprocessing基于子进程,每个子进程之间都有独立的变量和数据结构。两者的区别意味着threading更使用于I/O密集型任务(例如需要进行多表格读取操作),multiprocessing模块更适用于包含较多计算的CPU密集型任务(矩阵运算,图片处理类任务)。

需要注意的是,由于python中的GIL锁的存在,Python解释器只允许一个Python进程使用,这意味着对于一个解释器只允许一个进程在运行,这也是为什么threading模块无法适用于CPU密集型这类需要大量CPU资源的任务,因为一个进程的CPU资源有限,无论开启多少个线程,总的资源就只有那些,总耗时不会有太大变化。而multiprocessing模块则可以开多个进程,能够更快速的处理CPU密集型任务。

关于GIL锁和Multiprocessing模块的部分就不继续深入介绍了,本次主要介绍如何使用threading模块实现多线程的相关内容。

一个线程完整的生命周期包括新建——就绪——运行——阻塞——死亡。

  1. 新建:即新创建一个线程对象
  2. 就绪:调用start方法后,线程对象等待运行,什么时候开始运行取决于调度
  3. 运行:线程处于运行状态
  4. 阻塞:处于运行状态的线程被堵塞,通俗理解就是被卡住了,可能的原因包括但不限于程序自身调用sleep方法阻塞线程运行,或调用了一个阻塞式I/O方法,被阻塞的进程会等待何时解除阻塞重新运行
  5. 死亡:线程执行完毕或异常退出,线程对象被销毁并释放内存

我们讲的多线程实际上指的就是只在主线程中运行多个子线程,而主线程就是我们的python编译器执行的线程,所有子线程和主线程都同属于一个进程。在未添加子线程的情况下,默认就只有一个主线程在运行,他会将我们写的代码从开头到结尾执行一遍,后文中我们也会提到一些主线程与子线程的关系。

不扯那么多概念了,接下来直接进入正题!

Thread类创建新线程的基本语法如下:

Newthread = Thread(target=function, args=(argument1,argument2,...))

  • Newthread: 创建的线程对象
  • function: 要执行的函数
  • argument1,argument2: 传递给线程函数的参数,为tuple类型

假设一个任务task(当然task可以替换为其他任何任务,本实例中仅为假设),这个任务实现的功能是每隔1s打印某个字母,我们使用两个子线程,分别同时打印不同的字母a和b,实例如下:

 

其输出为:

 

线程thread1和thread2同时开始,thread2打印2个b后结束,而thread1继续打印a直到完成。

在前一个实例中我们可以看到在结尾有thread1.join()和thread2.join()两个语句,这两个语句出现在末尾表示主线程会等待所有的子线程执行完成,当然了,由于默认我们创建的子线程是前台线程(这个概念会在后面提到),如果没有join语句主线程也会等待所有子线程执行完毕才退出。

join方法可以用于阻塞主线程的顺序执行,因此,在主线程中使用可以调整各个子线程的执行顺序,了解完这些之后,我们来看下一个实例。

 

其输出为:

 

由输出可以看出,由于join的加入,thread2.join使得主进程一直在等待thread2线程完成任务,因此直到线程thread2结束后,thread3才开始任务。

由于这里thread1一共打印6个a,thread2打印4个b,thread3打印2个c。thread1的工作量等于thread2+thread3的工作量之和,因此整个程序可以看成是thread1与thread2+thread3并行运行。

实例1和2中,我们已经介绍了如何直接导入Thread函数创建线程以及如何利用join方法,但是这种创建线程的方法本质上使用的是其父类的默认设置,具有局限性。在实例3中,将进一步深入探讨如何继承并重写父类threading.Thread类创建子线程。

和实例2相同,我们假设需要用多个线程处理任务task1,thread1打印4个a字母(耗时4s),thread2线程打印2个b字母(耗时2s),如下:

 

输出为:

 

从输出中,我们可以清楚的看到两个并行任务从开始到结束,最后一起销毁并释放内存的全过程,很好的体现了线程的一个完整生命周期过程。

最后实现的效果与实例1实现的效果相同,但是使用继承重写父类的方法,可以让我们更加自由的定义各项参数以及定义线程处理的任务,也能让我们对threading模块的理解更加深入。

在前面的所有实例中,我们忽略了threading.Thread的daemon参数,其默认为False,表示线程默认就是一个前台线程。

前台线程表示当所有的前台线程都执行完毕时,整个程序才退出。将daemon参数设定为True是表示线程是一个后台线程,此时主进程结束时,所有未执行完成的后台线程也都会直接自动结束。

在上一个实例的基础上,在初始化部分加入self.daemon=True,并去掉末尾的join方法,替换成sleep方法来阻塞主程序的运行,我们来看看结果会变成什么样,实例如下:

 

其输出将变为:

 

我们用sleep方法强行阻塞了主程序3s,但是由于我们将线程设定为了后台线程,3s过后,主程序将执行完毕,此时两个子线程thread1和thread2无论是否执行完成,都将强行结束。

将daemon参数设定为False,其输出则与实例3相同,如下:

 

我们设想一下这种情况,当多线程同时执行时,由于threading模块的中线程的变量和数据结构共享,可能会出现多个线程同时修改一个数据的情况,这绝对是不行的。

为了将各个线程同步,我们引入线程锁的概念。当某个线程访问数据时,先对其加锁,其他线程若再想访问这个数据就会被阻塞,直到前一个线程解锁释放。在threading模块中,加锁和释放锁主要使用Lock类,使用其中的acquire()和release()方法:

 

在介绍线程锁实例时,我们就不使用前面几个实例用的打印字母的任务了。为了让各位更加直观地体会到线程锁的作用,我们使用多线程对一个列表list进行数据删改。

假设此时有多个线程都需要对这个列表进行修改操作,实例如下:

 

输出为:

 

 当三个线程都需要使用同一个数据时,我们只需要对线程的run方法中进行加锁和释放锁的操作即可。此时三个子线程将会进行顺序操作,前一个子线程执行完成释放锁后,后一个线程才会继续执行。要注意的是,这三个子线程使用的需要是同一把锁。

这是我第一次尝试发文,写文章的初衷就是和大家能够一起进步,有什么不足大家也可以在评论区提出来,后续可能会继续更新python的一些知识点以及自己的学习感悟,与各位共勉。

threading模块还有很多可选参数和方法可供使用,详情可参见threading模块的官方文档

版权声明


相关文章:

  • linux中user是什么意思2024-12-06 10:01:03
  • 内存检测工具memtest怎么看结果2024-12-06 10:01:03
  • 二叉树先序遍历序列2024-12-06 10:01:03
  • linux执行hbase命令2024-12-06 10:01:03
  • rsa私钥加密私钥能解密么2024-12-06 10:01:03
  • linux更改进程名字2024-12-06 10:01:03
  • 壁仞科技怎么样知乎2024-12-06 10:01:03
  • microsoft edge快捷键编辑2024-12-06 10:01:03
  • geohash java2024-12-06 10:01:03
  • 驼峰命名什么意思2024-12-06 10:01:03