整理 | 寇雪芹
出品 | AI科技大本营(ID:rgznai100)
近日,PyTorch 发布了新版本 PyTorch 1.8.1,相比3月4日从 PyTorch 1.7 到 1.8 的重要更新( 1.8 版本主要包括编译器和分布式训练更新,同时新增了部分移动端教程),这次只是一个小的错误修复版本,但依然有许多值得关注的地方。
两项新功能
PyTorch 1.8.1 的发行说明中包含四部分内容,分别是版本新功能、改进之处、修复的Bug 以及文献资料。
其中,PyTorch 1.8.1 的新功能有两项,分别是改造 torch.profiler 中的 profiling tools 、为 pytorch xla 启用 autocast。
改进之处包括:使torch.子模块导入更易于自动完成、在 ONNX 中添加对torch.{isinf,any,all}的支持、在torch.randperm的 GPU 实现中将 thrust 替换为 cub,以高提性能。
新修复的 13 项 Bug 包括:
修复 torch.distributions 验证检查;
允许更改 nn.Embedding 的 padding 向量;
在 TorchScript 中正确 de-sugar Ellipsis;
当组数为 24 的倍数时,停止使用 OneDNN 进行分组卷积;
在 {load,store}_scalar 中使用 int8_t 代替 char;
更新 ONNX 中的错误处理以避免 ValueError 等。
以 Python 优先的深度学习框架
PyTorch 在2017年1月问世,由 Facebook 的人工智能研究院(FAIR)基于 Torch 推出,是一个开源的 Python 机器学习库,可以用于自然语言处理等。
PyTorch 提供两个高级功能:一是具有强大的GPU加速的张量计算,如NumPy;二是包含自动求导系统的深度神经网络。
PyTorch 的前身是 Torch ,其底层和 Torch 框架一样,但是因为用 Python 重新写了很多内容而变得更加灵活、支持动态图,并且提供了 Python 接口,不仅能够实现强大的GPU加速,同时还支持动态神经网络。
目前,除了Facebook外,PyTorch 已经被Twitter、CMU和 Salesforce 等机构采用。
参考链接:
https://github.com/pytorch/pytorch/releases/tag/v1.8.1