1. 为什么需要多版本CUDA共存
在深度学习开发中，不同框架对CUDA版本的要求往往存在差异。比如PyTorch 2.0推荐使用CUDA 11.8，而TensorRT 8.6则需要CUDA 12.1支持。更麻烦的是，某些遗留项目可能还依赖更早的CUDA版本。这就导致开发者经常需要在不同版本间切换。
我在实际项目中就遇到过这样的困境：一个基于TensorFlow 2.4的项目需要CUDA 11.0，而另一个使用最新PyTorch的项目又要求CUDA 12.1。每次切换项目都要重装CUDA，不仅耗时还容易出错。后来发现通过多版本共存方案，可以完美解决这个问题。
Ubuntu 22.04作为当前最稳定的LTS版本，其软件仓库已经对多版本CUDA支持得相当完善。通过合理的环境变量管理，我们可以实现不同CUDA版本的无缝切换。下面我就以CUDA 11.8和12.1为例，详细介绍具体实现方法。
2. 基础环境准备
2.1 系统依赖安装
在安装CUDA之前，需要确保系统具备必要的编译工具链。我建议先执行以下命令安装基础依赖：
sudo apt update sudo apt install -y build-essential gcc make cmake sudo apt install -y linux-headers-$(uname -r)这些包包含了GCC编译器、make工具和内核头文件，是后续安装的必备组件。特别是linux-headers，它必须与当前运行的内核版本严格匹配，否则NVIDIA驱动可能会安装失败。
2.2 驱动兼容性检查
CUDA版本与NVIDIA驱动存在严格的对应关系。以我的RTX 3090显卡为例，执行以下命令查看推荐驱动版本：
ubuntu-drivers devices输出结果中会显示推荐驱动版本。对于CUDA 11.8和12.1，建议安装520版本以上的驱动：
sudo apt install -y nvidia-driver-520安装完成后，重启系统并验证驱动是否生效：
nvidia-smi这个命令会显示GPU状态和驱动支持的CUDA最高版本。注意这里显示的是驱动支持的CUDA版本，而非系统实际安装的CUDA版本。
3. CUDA 11.8详细安装步骤
3.1 下载与安装
推荐从NVIDIA官网下载runfile格式的安装包，这种方式可以灵活选择组件：
wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run sudo sh cuda_11.8.0_520.61.05_linux.run安装时需要注意：
- 已安装驱动的情况下，务必取消勾选Driver选项
- 保持默认安装路径
/usr/local/cuda-11.8 - 其他组件如Demo和Documentation可选
3.2 环境变量配置
安装完成后，需要在~/.bashrc中添加以下配置：
# CUDA 11.8配置 export PATH=/usr/local/cuda-11.8/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH export CUDA_HOME=/usr/local/cuda-11.8使配置立即生效：
source ~/.bashrc验证安装是否成功：
nvcc --version这个命令应该显示CUDA 11.8的版本信息。如果显示其他版本，说明环境变量配置有冲突。
4. CUDA 12.1并行安装指南
4.1 多版本共存原理
CUDA多版本共存的核心在于环境变量管理。每个版本的CUDA都会安装到独立的目录（如/usr/local/cuda-11.8和/usr/local/cuda-12.1），通过切换环境变量指向的路径来实现版本切换。
4.2 具体安装过程
下载CUDA 12.1安装包：
wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.run sudo sh cuda_12.1.0_530.30.02_linux.run安装选项与11.8类似，注意不要重复安装驱动。安装完成后，先不要修改全局环境变量，我们将在下一节介绍如何优雅地切换版本。
5. 多版本切换方案
5.1 手动切换方法
最简单的切换方式是直接修改.bashrc文件，注释掉不需要的版本，启用目标版本。例如要切换到CUDA 12.1：
# 注释掉11.8的配置 # export PATH=/usr/local/cuda-11.8/bin:$PATH # export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH # export CUDA_HOME=/usr/local/cuda-11.8 # 启用12.1的配置 export PATH=/usr/local/cuda-12.1/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64:$LD_LIBRARY_PATH export CUDA_HOME=/usr/local/cuda-12.1然后执行source ~/.bashrc使更改生效。
5.2 自动化切换脚本
对于需要频繁切换的场景，可以创建切换脚本cuda-switch.sh：
#!/bin/bash version=$1 if [ "$version" == "11.8" ]; then export PATH=/usr/local/cuda-11.8/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH export CUDA_HOME=/usr/local/cuda-11.8 elif [ "$version" == "12.1" ]; then export PATH=/usr/local/cuda-12.1/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64:$LD_LIBRARY_PATH export CUDA_HOME=/usr/local/cuda-12.1 else echo "Unsupported CUDA version: $version" exit 1 fi echo "Switched to CUDA $version" nvcc --version给脚本添加执行权限后，就可以通过source cuda-switch.sh 11.8快速切换版本。
6. 兼容性验证实战
6.1 PyTorch框架测试
为验证CUDA 11.8的兼容性，安装对应版本的PyTorch：
pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117创建测试脚本test_pytorch.py：
import torch print(f"PyTorch版本: {torch.__version__}") print(f"CUDA可用: {torch.cuda.is_available()}") print(f"当前设备: {torch.cuda.get_device_name(0)}")对于CUDA 12.1，则安装更新的PyTorch版本：
pip install torch==2.0.1+cu121 torchvision==0.15.2+cu121 --extra-index-url https://download.pytorch.org/whl/cu1216.2 TensorRT集成验证
TensorRT对CUDA版本要求更为严格。以CUDA 12.1为例，安装TensorRT 8.6：
sudo apt-get install -y tensorrt验证脚本test_tensorrt.py：
import tensorrt as trt print(f"TensorRT版本: {trt.__version__()}")如果遇到版本不匹配错误，可能需要从NVIDIA官网下载对应版本的Tar包手动安装。
7. 常见问题排查
7.1 版本显示不一致问题
执行nvidia-smi和nvcc --version显示的版本号不同是正常现象。前者显示的是驱动支持的最高CUDA版本，后者才是实际使用的工具包版本。
7.2 库文件冲突解决
如果遇到libcudart.so等库文件冲突，可以检查LD_LIBRARY_PATH是否包含多个CUDA版本的路径。正确的做法是只保留当前需要使用的版本路径。
7.3 编译错误处理
在编译CUDA程序时，如果出现unsupported gpu architecture错误，需要在编译命令中指定正确的计算能力：
nvcc -arch=sm_86 your_code.cu -o your_program其中sm_86需要根据你的GPU架构进行调整。RTX 30系列一般是sm_86，RTX 20系列是sm_75。
