一、引言
对于算法工程师来说，语言从来都不是关键，关键是快速学习以及解决问题的能力。大学的时候参加ACM/ICPC一直使用的是C语言，实习的时候做一个算法策略后台用的是php，毕业后做策略算法开发，因为要用spark，所以写了scala，后来用基于storm开发实时策略，用的java。至于python，从日常用hive做数据策略用python写udf，到基于tensorflow深度学习框架写python版的模型网络，再到现在实用pytorch做大模型。眼看着在语言纷争中，python的应用越来越广，开一个单独的专栏用于记录python中常用到的技巧，算是做笔记，没事翻出来看看。
本文重点介绍python中的线程调用（Thread）。
二、线程（Thread）
2.1 概述
在Python中，Thread 是 threading 模块中的一个类，用于创建线程。线程是程序执行流的最小单元，允许程序同时执行多个任务。使用 Thread 类可以创建一个新的线程来运行指定的代码。
2.2 单线程
代码语言：javascript复制import threading
# 定义一个被线程调用的函数
def my_function():
print("线程在执行任务...")
# 创建一个线程对象，target 指定线程执行的函数
thread = threading.Thread(target=my_function)
# 启动线程
thread.start()
print("主线程继续执行...")在这个例子中，my_function 是被新线程调用的函数。通过 thread.start() 启动线程后，它将并发地（在支持并发执行的环境中）与主线程一起执行。注意，由于GIL（全局解释器锁）的存在，在CPython解释器中，多线程并不能实现真正的并行计算，但对于IO密集型任务，多线程仍然可以提高效率。
2.3 多线程
建立三个线程先让第1个线程和第2个线程一起运行，然后关闭第1个线程，启动第3个线程，关闭第2个线程，关闭第3个线程，代码如下：
代码语言：javascript复制import threading
import time
def thread_function(name,step):
print("Thread %s: starting" % name)
for i in range(step):
time.sleep(1)
print("Thread %s: %s" % (name, i))
print("Thread %s: finishing" % name)
thread1 = threading.Thread(target=thread_function, args=("1",5))
thread2 = threading.Thread(target=thread_function, args=("2",10))
thread3 = threading.Thread(target=thread_function, args=("3",5))
thread1.start()
thread2.start()
thread1.join()
thread3.start()
thread2.join()
thread3.join()
print("Exiting Main Thread")输出如下：
2.4 大模型应用
大模型在进行流式streamer输出的时候，经常需要新启一个线程，用于一个字符一个字符的处理，像打字机一样按顺序输出每个字符。
代码语言：javascript复制 inputs = inputs.to(model.device)
streamer = TextIteratorStreamer(tokenizer=tokenizer, skip_prompt=True, timeout=60.0, skip_special_tokens=True)
generation_kwargs = dict(
input_ids=inputs,
streamer=streamer,
)
thread = Thread(target=model.generate, kwargs=generation_kwargs)
thread.start()
for new_text in streamer:
yield new_text - thread：将model.generate和对应参数单独启动一个线程运行
- yield：不同于return等待所有内容生成后返回，采用yield用于接收streamer中的new_text内容，每产生一个内容，采用yield返回一个
三、总结
本文对Thread用法进行阐述，分别举了一个单线程、一个多线程和一个大模型输出流式内容的范例。希望可以帮到您。
