使用CUDA进行环境搭建和代码执行

以下是一篇关于使用CUDA进行环境搭建和代码执行的文章。

一、环境搭建

1. 安装CUDA，本文使用的是12.1版本，下载地址： https://developer.nvidia.com/cuda-12-1-1-download-archive

2. 安装conda3，下载地址： https://blog.csdn.net/m0_73634846/article/details/136378350

3. 准备代码环境，原文： https://mp.weixin.qq.com/s/PQVrlr5FoVb89Mivzi7pLA

顺序执行：

git clone https://github.com/Ucas-HaoranWei/GOT-OCR2.0.git
conda create -n got python=3.10 -y #创建虚拟环境
conda activate got #激活虚拟环境
pip install -e . # 使用项目里面pyproject.toml安装依赖

安装 Flash-Attention：

pip install ninja
pip install flash-attn --no-build-isolation
ps：以上是官方的安装教程，但是其实会遇到很多问题，以下进行逐一说明，不保证能解决所有问题，但是大部分问题都能解决

二、问题序列：

1. python安装CUDA出现错误提示：AssertionError: Torch not compiled with CUDA enabled

https://blog.csdn.net/qq_44750293/article/details/129685556
问题本质是PyTorch无法调用CUDA，原因是国内加速镜像默认会安装CPU版本，安装GPU版本即可。torch.cuda.is_available输出为false即代表安装的版本为CPU版本，安装GPU版本后即可输出为true。

...（以下内容省略）...