近日，Reddit 上一个帖子热度爆表。主题内容是关于怎样加速 PyTorch 训练。原文作者是来自苏黎世联邦理工学院的计算机科学硕士生 LORENZ KUHN，文章向我们介绍了在使用 PyTorch 训练深度模型时最省力、最有效的 17 种方...

简要介绍在PyTorch中加速深度学习模型训练的一些最小改动、影响最大的方法。我既喜欢效率又喜欢ML，所以我想我也可以把它写下来。

自然语言处理（NLP）或者计算语言学是信息时代最重要的技术之一。从网络搜索、广告、电子邮件到客户服务、语言翻译、虚拟代理、医疗报告等，NLP 的应用几乎无处不在。近年来，深度学习（或神经网络）在许多 NLP 任务上达到了非常...

给各位小伙伴们推出几个深度学习框架的资料集锦，统一命名为：XXX-From-Zero-To-One。下面po一幅深度学习框架发展的重要历史点：

torch.gather(*input,dim,index,sparse_grad=False, out=None*) 函数沿着指定的轴 dim 上的索引 index 采集输入张量 input 中的元素值，函数的参数有：

过去的这几年，陆陆续续出现了不少深度学习框架。而在这些框架中，Facebook 发布的 PyTorch 相对较新且很独特的一个，由于灵活、迅速、简单等特点，PyTorch 发展迅猛，受到很多人的青睐。...

交换维度顾名思义就是交换不同的维度，线性代数中矩阵的转置操作可以看成是交换第 0 个和第 1 个维度。比如下图形状为 (3, 4) 的矩阵。

nD 张量底层实现是使用一块连续内存的一维数组，由于 PyTorch 底层实现是 C 语言 (C/C++ 使用行优先的存储方式)，所以 PyTorch 中的 nD 张量也按照行优先的顺序进行存储的。...

YOLOv5在OpenVINO上的部署，网上有很多python版本的代码，但是基本都有个很内伤的问题，就是还在用pytorch的一些库做解析，C++的代码有个更大的内伤就是自定义解析解释的不是很清楚，所以本人阅读YOLOv5的pytorch代码推理部分，...

参考链接： 在Python中使用BERT Tokenizer和TensorFlow 2.0进行文本分类