1、加载预训练的模型； 2、提取所需要层的权重，并对其进行重命名。比如我们想要第0层和第11层的权重，那么需要将第11层的权重保留下来并且重命名为第1层的名字； 3、更改模型配置文件（保留几层就是几），并且将第11层的权重赋值...

预训练模型下载：https://huggingface.co/nghuyong/ernie-1.0

在使用Pytorch时你或多或少会遇到各种bug，为了缓解你的痛苦

导数在大学的时候还是学过的，虽然概念很简单，但是过了这么多年几乎也都忘了，连数学符号都不记得了，在复习之后才理解：就是表示数据变化的快慢，是变化率的概念，比如重力加速度，表示你自由落体之后每秒速度的增量。...

智能化农业作为人工智能应用的重要领域，对较高的图像处理能力要求较高，其中图像分割作为图像处理方法在其中起着重要作用。图像分割是图像分析的关键步骤, 在复杂的自然背景下进行图像分割, 难度较大。...

如今，深度学习和机器学习算法正在统治世界。PyTorch是最常用的深度学习框架之一，用于实现各种深度学习算法。另一方面，基于学习的方法本质上需要一些带注释的训练数据集，这些数据集可以被模型用来提取输入数据和标签之间...

Searching in massive collections of digitized printed scientific documents with queries that are mathematical expressions is a research area scarcely explored. ...

最后一起看下训练的结果日志，如下图所示，可以看到 testAcc = 93.86%，此处用的是双卡 2080Ti，比单卡来说，训练的 batch_size 更大，所以准确率略微提升:

梯度累积是一种增大训练时 batch size的技术，在本地使用 micro-batch 多次进行正向和反向传播积累梯度后，再进行梯度规约和优化器更新，这是用来均摊通信成本的一种常用策略。本文通过几个框架/库的实现对比，让大家对这个...

以下介绍的两种编辑器可二选一使用，也可以结合使用PyCharm下载进入官网：https://www.jetbrains.com/pycharm/下载社区版（免费）1-下载pycharm.jpg安装设置安装路径（避免出现中文和空格）2-设置安装路径.jpg根据自己的需要勾选...