最新 最热

[源码解析] Pytorch 如何实现后向传播 (2)---- 引擎静态结构

结合Engine定义,我们可以一一把这些输入与 execute 的参数对应起来。

2021-10-29
0

明月深度学习实践004:ResNet网络结构学习

ResNet可谓大名鼎鼎了,一直遵循拿来主义,没有好好去学习它,当然,作为一个提出来快五年的网络结构,已经有太多人写过它了,不好下笔。

2021-10-28
0

明月深度学习实践002:关于模型训练你应该关注的内容

前面我们已经建立了一个简单的LeNet模型,已经训练它了来做手写数字识别,基于mnist数据集上的效果还是不错的。今天接着写一些模型训练相关的内容。...

2021-10-28
0

[源码解析] PyTorch如何实现前向传播(3) --- 具体实现

本系列将通过大概十篇左右文章来分析 PyTorch 的自动微分功能如何实现。本文是前向传播的第三篇,介绍具体实现机制。

2021-10-26
0

使用torch.package将pytorch模型进行独立打包

PyTorch 发布于 2016 并迅速成为深度学习研究人员的首选工具。随着PyTorch的逐步发展,它已经不仅仅是一个原型工具。现在PyTorch成为一个成熟的框架,并且逐渐成为学术界和工业界的标准。研究人员和机器学习工程师可以在...

2021-10-22
0

[源码解析]PyTorch如何实现前向传播(2) --- 基础类(下)

本系列将通过大概十篇左右文章来分析 PyTorch 的自动微分功能如何实现。本文是前向传播的第二篇,介绍自动微分(梯度计算)所涉及的部分 PyTorch 基础类。因为字数太多(1万两千字),所以拆分成上下两篇。...

2021-10-21
0

【详细图解】再次理解im2col

一句话:im2col是将一个[C,H,W]矩阵变成一个[H,W]矩阵的一个方法,其原理是利用了行列式进行等价转换。

2021-10-20
0

在OneFlow实现数据类型自动提升

可以观察到同样是multiply运算,有些结果的数据类型被提升到更高的一级,有些并没有被提升,还维持着int8类型。这其实是一种类型提升系统,系统内会自定义一些类型提升的规则,根据输入的数据类型来推导最终结果的数据类型。...

2021-10-20
0

深度学习框架量化感知训练的思考及OneFlow的一种解决方案

【GiantPandaCV导语】这篇文章分享的是笔者最近在OneFlow做的一个项目,将Pytorch FX移植到OneFlow之后实现了自动量化感知训练动态图模型(在Pytorch和OneFlow中都称为nn.Module)。现在用户可以在自己构建的nn.Module基...

2021-10-20
0

[源码解析]PyTorch如何实现前向传播(1) --- 基础类(上)

本系列将通过大概十篇左右文章来分析 PyTorch 的自动微分功能如何实现。本文是前向传播的第一篇,介绍自动微分(梯度计算)所涉及的部分 PyTorch 基础类。因为字数太多(1万两千字),所以拆分成上下两篇。...

2021-10-20
0