【AI大模型】Transformers大模型库（七）：单机多卡推理之device_map

一、引言

这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。

分布式 device gpu map 模型

0 人点赞