最新 最热

Python安装Pytorch(解决ModuleNotFoundError: No module named ‘torch‘)

很多python初学者很多都喜欢使用pip直接安装任何东西,但是这里明确一下啊,使用pip安装'torch'几乎是不可能的,我尝试了无数种方案了,即便是看着successfull了,但是使用的时候不能用,气得你半死。可能是我对pip安...

2022-11-30
1

使用 PyG 进行图神经网络训练

最近一直在想创新点,搭模型,想尝试一下图神经网络,想着自己实现一个,但是之前也没有尝试过写 GNN 模型,对其中的实现细节也没有实际尝试过,最后找到了 PyG ,尝试一下之后发现还是挺简单的,也比较好拿到现有模型里面,于是开始挖...

2022-11-30
1

NVIDIA Deep Learning Examples仓库上线飞桨ResNet50模型,其训练速度超PyTorch

为了让开发者可以快速复现顶尖的精度和超高的性能,NVIDIA与飞桨团队合作开发了基于ResNet50的模型示例,并将持续开发更多的基于NLP和CV等领域的经典模型,后续陆续发布的模型有BERT、PP-OCR、PP-YOLO等,欢迎持续关注。...

2022-11-29
1

[源码分析] Facebook如何训练超大模型--- (5)

我们在前文介绍过,微软 ZeRO 可以对一个万亿参数模型可以使用 8 路模型并行、64 路管道并行和 8 路数据并行在 4,096 个 NVIDIA A100 GPU 上进行扩展。而FSDP(Fully Sharded Data Parallel)是Facebook 深度借鉴微软ZeRO...

2022-11-28
1

JAX 正从谷歌的边缘项目走向核心

谷歌于 2015 年开放了一种小型资源,即 2015 年谷歌大脑研究项目,名为 TensorFlow,实质上创造了现代机器学习的生态系统。其普及速度之快,令谷歌成为了主流人工智能产品的拥有者。...

2022-11-28
1

PyTorch 成为 Linux 基金会的顶级项目

PyTorch 是一个由 Meta AI Research 开发的热门的深度学习框架,现已成为 Linux 基金会 下 一个独立的顶级项目。该项目将由新成立的 PyTorch 基金会 管理,并得到包括 Meta、AWS、NVIDIA、AMD、谷歌 和 微软 在内的多家...

2022-11-28
1

NLP手札1. 金融信息负面及主体判定方案梳理&代码实现

这个系列会针对NLP比赛,经典问题的解决方案进行梳理并给出代码复现~也算是找个理由把代码从TF搬运到torch。Chapter1是CCF BDC2019的赛题:金融信息负面及主体判定,属于实体关联的情感分类任务,相关代码实现以及Top方案梳...

2022-11-27
1

小数据大任务 实现框架开源

Pylon lets you train your deep learning models with arbitrary constraints on the output.

2022-11-22
1

alphaFold2 | 模型细节之特征提取(三)

文章链接:https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8371605/

2022-11-22
0

CNCF Volcano 核心架构和场景分析

随着业务业务场景不断丰富,批量计算也由传统的HPC逐渐扩展到大数据、AI等多种场景,但各个领域独立发展,呈现出生态割裂、技术栈不兼容,资源利用率低等问题,严重影响批量计算的进一步发展...

2022-11-22
1