最新 最热

【AI大模型】Transformers大模型库(六):torch.cuda.OutOfMemoryError: CUDA out of memory解决

这里的Transformers指的是huggingface开发的大模型库,为huggingface上数以万计的预训练大模型提供预测、训练等服务。

2024-08-13
1

CUDA常见驱动程序兼容性问题一览

驱动程序的兼容性对于CUDA的正常运行至关重要。在Linux系统中,驱动程序的安装与配置常常面临各种问题。本文将详细列举驱动程序兼容性问题及其解决方案,确保能够顺利配置和使用CUDA环境。...

2024-08-01
1

玩AI,如何查看电脑的 CUDA 和 GPU 信息并进行配置?

玩AI模型,GPU算力是基础,首先得了解自己电脑的 CUDA 和 GPU 信息,并安装相对应的软件、进行正确的配置。

2024-07-31
1

【C++】基础:CUDA并行编程入门

当使用CUDA(Compute Unified Device Architecture)进行并行计算时,我们可以利用GPU(图形处理器)的强大性能来加速各种应用程序。

2024-07-24
1

英伟达CUDA指令集架构(ISA)介绍

英伟达CUDA指令集架构(ISA)是CUDA技术的核心部分,它定义了GPU如何理解和执行程序中的指令。尽管详细的ISA细节通常对普通开发者来说是透明的,因为大多数开发者通过高级语言(如C/C++)编写CUDA代码,了解其基本原理有助于深入理...

2024-07-05
1

英伟达CUDA架构核心概念及入门示例

理解英伟达CUDA架构涉及几个核心概念,这些概念共同构成了CUDA并行计算平台的基础。1. SIMT(Single Instruction Multiple Thread)架构 CUDA架构基于SIMT模型,这意味着单个指令可以被多个线程并行执行。每个线程代表了最...

2024-07-05
1

【知识】详细介绍 CUDA Samples 示例工程

CUDA 是“Compute Unified Device Architecture (计算统一设备架构)”的首字母缩写。CUDA 是一种用于并行计算的 NVIDIA 架构。使用图形处理器也可以提高 PC 的计算能力。...

2024-06-28
1

华为CANN要替代英伟达CUDA,比鸿蒙替代安卓还难么?

在数字时代,石油曾是工业的血液,驱动着世界的运转。然而,随着人工智能的兴起,一种新的能源正在悄然崛起,它就是算力——AI时代的新石油。这不再是关于地下的挖掘,而是关于数据的开采和智能的提炼。在这个新纪元,算力成为了衡...

2024-06-19
1

解决nvidia驱动和CUDA升级问题

注释:升级高版本的nvidia驱动和cuda是不影响现有的docker镜像和容器的。因为是向下兼容的。仅仅升级后重启服务器即可。

2024-06-09
1