Windows 上通过 WSL2 搭建 GPU 加速的 PyTorch 深度学习环境实战

1. 为什么要在 Windows 上折腾 WSL2 跑 AI 训练

1.1 从双系统到 WSL2 的路线选择

我最早做深度学习是在 Windows 上直接装 CUDA 和 PyTorch，那时候踩的坑现在想起来都头疼：显卡驱动和 CUDA 版本对不上、conda 环境装到一半报 DLL 缺失、训练脚本跑着跑着蓝屏。后来改成双系统 Ubuntu，稳定性是上来了，但每次切系统都要重启，写代码在 Windows、跑训练在 Linux，文件来回拷，效率低得离谱。直到 WSL2 成熟之后，我才算找到了一个真正能长期用的方案——Windows 负责日常办公和 IDE，WSL2 里的 Linux 负责跑训练和推理，两边文件系统互通，GPU 还能直通。

WSL2 的本质是微软在 Windows 上跑的一个轻量级虚拟机，内核是真实的 Linux 内核，不是早期 WSL1 那种系统调用翻译层。这一点非常关键：WSL1 跑 PyTorch 会因为 syscall 兼容问题各种报错，而 WSL2 是货真价实的 Linux，nvidia-smi、nvcc、torch.cuda.is_available()全都能正常工作。GPU 直通靠的是微软的 WSLg 和 GPU-PV（GPU 半虚拟化）技术，把 Windows 主机的 NVIDIA 驱动通过/dev/dxg设备暴露给 WSL2 里的 Linux，再配合 Linux 侧的libcuda.so实现 CUDA 调用。所以你不需要在 WSL2 里再装一遍显卡驱动，只需要装 CUDA Toolkit 就行——这是新手最容易搞错的地方。

这套方案适合谁？我觉得有三类人特别合适：一是主力机是 Windows 笔记本、又需要 Linux 环境跑深度学习的学生和开发者；二是公司配的是 Windows 工作站、但项目要求 Linux 部署的工程师；三是想低成本入门 AI、不想额外买 Linux 机器或者租云 GPU 的爱好者。只要你机器上有一块 NVIDIA 显卡（GTX 10 系以上基本都行），这套方案就能跑起来。

1.2 内核级 Linux 带来的实际收益

很多人会问，WSL2 和真机 Linux 到底差多少？我从实际使用角度说几个关键点。首先是内核版本，WSL2 用的是微软自己编译的 Linux 内核，可以通过uname -r看到类似5.15.90.1-microsoft-standard-WSL2的版本号，这个内核支持绝大多数 Linux 系统调用，包括fork、mmap、epoll这些 PyTorch 和 CUDA 依赖的核心机制。其次是文件系统，WSL2 用的是 ext4，性能比 WSL1 的 DrvFs 好太多，尤其是小文件读写，这对 PyTorch 加载数据集影响很大。

再就是 GPU 直通的实际性能。我实测过 ResNet50 在 WSL2 和原生 Ubuntu 上的训练速度，batch size 64、FP32 精度下，WSL2 大概比原生慢 3% 到 5%，这个差距主要来自虚拟化层的开销。但对于绝大多数实验和中小规模训练来说，这点损耗完全可以接受。推理场景下差距更小，基本在 2% 以内。所以如果你不是在做那种对性能极度敏感的大规模分布式训练，WSL2 完全够用。

还有一个容易被忽略的收益是内存管理。WSL2 默认会占用宿主机的内存，但可以通过.wslconfig文件限制上限，避免训练时把 Windows 主系统拖垮。这个配置后面我会详细讲。相比之下，双系统就没法做到这种动态资源分配，Linux 那边跑满内存，Windows 这边就只能干等着。

2. 环境准备：从零到能跑通 nvidia-smi

2.1 Windows 侧的前置条件检查

在动手之前，先把几个硬性条件确认清楚，不然装到一半发现不支持会很浪费时间。第一，Windows 版本必须是 Windows 10 版本 2004 及以上（内部版本 19041 及以上），或者 Windows 11 任意版本。你可以按Win + R输入winver查看。第二，CPU 必须支持虚拟化，在任务管理器“性能”标签页里能看到“虚拟化：已启用”。如果显示已禁用，需要进 BIOS 打开 Intel VT-x 或 AMD-V。

第三，也是最重要的一点，显卡必须是 NVIDIA 的。AMD 显卡在 WSL2 下的 CUDA 支持目前还不成熟，虽然网上有一些绕路的方案，但稳定性和兼容性都差很多，不建议在生产环境用。NVIDIA 显卡的话，建议 GTX 1060 及以上，显存至少 6GB，不然跑稍微大一点的模型就会 OOM。我自己的机器是 RTX 3060 12GB，跑 7B 参数的模型做 LoRA 微调勉强够用。

第四，Windows 侧的 NVIDIA 驱动版本要足够新。WSL2 的 GPU 直通依赖驱动里的libcuda组件，老驱动可能不带这个。建议去 NVIDIA 官网下载 470 以上的版本，我目前用的是 546 系列，实测很稳。装驱动的时候选“自定义安装”，勾选“执行清洁安装”，避免旧驱动残留导致冲突。

2.2 WSL2 的安装与初始化

安装 WSL2 现在非常简单，一条命令搞定。以管理员身份打开 PowerShell，执行：

wsl --install

这条命令会自动启用“虚拟机平台”和“适用于 Linux 的 Windows 子系统”两个 Windows 功能，下载并安装 WSL2 内核，然后把 Ubuntu 设为默认发行版。执行完之后重启电脑，重启后会自动弹出 Ubuntu 的初始化窗口，让你设置用户名和密码。这里有个小坑：用户名不要用中文，也不要用大写字母，否则后面装 CUDA 的时候路径可能出问题。密码输入的时候屏幕不显示，这是正常的，输完回车就行。

如果你已经装过 WSL，想确认版本，执行wsl -l -v，输出里 VERSION 那一列必须是 2。如果是 1，用wsl --set-version Ubuntu 2转换。转换过程可能要几分钟，取决于你的数据量。另外，如果你想把 WSL2 的虚拟磁盘放到 D 盘而不是默认的 C 盘，可以用wsl --export和wsl --import迁移，具体命令是：

wsl --export Ubuntu D:\wsl\ubuntu.tar wsl --unregister Ubuntu wsl --import Ubuntu D:\wsl\Ubuntu D:\wsl\ubuntu.tar --version 2

迁移完之后默认用户会变成 root，需要修改/etc/wsl.conf加一行[user]和default=你的用户名，然后wsl --shutdown重启生效。这一步很多人会忘，导致每次进去都是 root，conda 环境全乱套。

2.3 验证 GPU 直通是否成功

WSL2 装好之后，第一件事是验证 GPU 能不能被识别。在 Ubuntu 终端里执行：

nvidia-smi

如果输出了一张表格，显示显卡型号、驱动版本、CUDA Version、显存占用等信息，说明 GPU 直通成功了。注意这里的 CUDA Version 是驱动支持的最高 CUDA 版本，不是你实际安装的版本，别搞混。如果报command not found，说明 Windows 侧的驱动没装好，或者 WSL2 内核太旧，执行wsl --update更新内核再试。

如果nvidia-smi能跑但显示No devices were found，大概率是驱动版本问题。我遇到过好几次，最后发现是 Windows 驱动太老，升级到最新版就好了。还有一种情况是笔记本的双显卡切换（Optimus），需要在 NVIDIA 控制面板里把 WSL 相关进程设为独显运行，不过这个比较少见。

验证完 GPU，再确认一下 CUDA 运行时库能不能加载。执行ls /usr/lib/wsl/lib/，应该能看到libcuda.so、libcuda.so.1、libnvidia-ml.so这些文件。这些是 WSL2 自动挂载进来的，不需要你手动装。如果这个目录不存在，说明 GPU 直通没生效，回去检查驱动和内核版本。

3. CUDA Toolkit 与 cuDNN 的安装细节

3.1 版本匹配：别让 CUDA 和 PyTorch 打架

CUDA 版本选择是整个环境搭建里最容易翻车的地方。核心原则是：PyTorch 官方支持的 CUDA 版本优先。你去 PyTorch 官网看安装命令，会看到类似cu118、cu121、cu124这样的后缀，这就是 PyTorch 预编译包对应的 CUDA 版本。你本地装的 CUDA Toolkit 版本最好和这个一致，否则可能出现undefined symbol之类的链接错误。

我目前的组合是 CUDA 12.1 + cuDNN 8.9 + PyTorch 2.2.0，实测很稳。为什么不装最新的 CUDA 12.4？因为 PyTorch 2.2 的官方 wheel 只到 cu121，装 cu124 的话要么自己编译（耗时几小时），要么用 nightly 版本（稳定性没保证）。所以我的建议是：先确定你要装的 PyTorch 版本，再倒推 CUDA 版本，最后装对应的 cuDNN。

这里有个常见误区：很多人以为 WSL2 里要装完整的 NVIDIA 驱动。千万不要。WSL2 的驱动是 Windows 侧提供的，Linux 侧只需要装 CUDA Toolkit 和 cuDNN。如果你在 WSL2 里执行apt install nvidia-driver-xxx，会把系统搞崩，因为 WSL2 内核不支持这些驱动模块。记住一句话：WSL2 里只装 CUDA Toolkit，不装显卡驱动。

3.2 用官方 runfile 还是 apt 源

CUDA Toolkit 有两种装法：apt 源和官方 runfile。apt 源的好处是依赖自动处理，升级方便；坏处是版本可能不是最新的，而且有时候会和系统自带的包冲突。runfile 的好处是版本齐全、安装路径可控；坏处是需要手动处理依赖，而且装的时候要关掉图形界面（WSL2 里没图形界面，这点倒不是问题）。

我推荐用 apt 源，因为 WSL2 的 Ubuntu 环境比较干净，冲突概率低。具体步骤：

wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-keyring_1.1-1_all.deb sudo dpkg -i cuda-keyring_1.1-1_all.deb sudo apt-get update sudo apt-get install cuda-toolkit-12-1

注意这里的仓库地址是wsl-ubuntu，不是普通的ubuntu2204。NVIDIA 专门为 WSL2 维护了一个仓库，里面的包做了适配，用错了仓库可能装不上。装完之后，把 CUDA 路径加到环境变量里，编辑~/.bashrc：

export PATH=/usr/local/cuda-12.1/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64:$LD_LIBRARY_PATH

然后source ~/.bashrc，执行nvcc -V验证。如果输出Cuda compilation tools, release 12.1，说明装好了。这里有个细节：nvcc是编译器，nvidia-smi显示的 CUDA Version 是驱动支持的版本，两者可以不一样。比如你驱动支持 12.4，但只装了 12.1 的 Toolkit，这是完全正常的。

3.3 cuDNN 的手动配置

cuDNN 是 NVIDIA 的深度神经网络加速库，PyTorch 的卷积、RNN 等操作底层都依赖它。从 CUDA 11 开始，cuDNN 不再随 Toolkit 一起安装，需要单独下载。去 NVIDIA 开发者网站下载对应 CUDA 版本的 cuDNN，比如 CUDA 12.1 就下 cuDNN 8.9.x for CUDA 12.x。下载下来是个 tar.xz 包，解压后把文件拷到 CUDA 目录：

tar -xvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda-12.1/include sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda-12.1/lib64 sudo chmod a+r /usr/local/cuda-12.1/include/cudnn*.h /usr/local/cuda-12.1/lib64/libcudnn*

验证的话，写个小程序调用cudnnGetVersion()，或者直接装 PyTorch 跑一下卷积测试。我一般用后者，更直观。这里有个坑：cuDNN 的版本号要和 CUDA 严格对应，8.9.x 对应 CUDA 12.x，8.6.x 对应 CUDA 11.x，装错了会在运行时报CUDNN_STATUS_NOT_INITIALIZED。

4. PyTorch 环境搭建与 GPU 验证

4.1 用 conda 还是 venv

Python 环境管理我强烈推荐 conda，尤其是做深度学习。原因有三：一是 conda 能管理非 Python 依赖，比如 CUDA 运行时、MKL 数学库，这些用 pip 装很麻烦；二是 conda 的环境隔离更彻底，不同项目的 CUDA 版本可以共存；三是 conda 装 PyTorch 的时候会自动处理 CUDA 依赖，省心。

Miniconda 的安装很简单：

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh

一路回车，最后问是否conda init选 yes。重开终端后，conda命令就能用了。如果报conda: command not found，检查~/.bashrc里有没有 conda 的初始化块，没有的话手动加：

export PATH=~/miniconda3/bin:$PATH

然后创建环境：

conda create -n pytorch python=3.10 conda activate pytorch

Python 版本建议 3.10，兼容性最好。3.12 有些库还没跟上，3.8 又太老，很多新特性用不了。

4.2 PyTorch 安装的两种方式对比

装 PyTorch 有 conda 和 pip 两种方式。conda 的好处是会自动装 CUDA 运行时和 cuDNN，你不用管系统里装了什么版本；坏处是下载慢，而且有时候版本更新滞后。pip 的好处是快、版本新；坏处是需要系统里已经装好 CUDA Toolkit。

我的建议是：如果你系统里已经按前面步骤装好了 CUDA 12.1，直接用 pip 装：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

如果你不想折腾系统 CUDA，用 conda 装：

conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

两种方式我都试过，实测下来 pip 装的版本性能略好一点，可能是因为链接的库更优化。但 conda 装的更省心，适合新手。注意--index-url这个参数，不指定的话默认从 PyPI 装 CPU 版本，跑起来会发现torch.cuda.is_available()返回 False，这是最常见的翻车点。

4.3 验证 GPU 是否真正可用

装完之后必须验证，不能只看安装没报错就完事。写个测试脚本：

import torch print("PyTorch version:", torch.__version__) print("CUDA available:", torch.cuda.is_available()) print("CUDA version:", torch.version.cuda) print("Device count:", torch.cuda.device_count()) print("Device name:", torch.cuda.get_device_name(0)) x = torch.randn(1000, 1000).cuda() y = torch.randn(1000, 1000).cuda() z = torch.mm(x, y) print("Matrix multiply result shape:", z.shape) print("GPU memory allocated:", torch.cuda.memory_allocated() / 1024**2, "MB")

如果CUDA available是 True，Device name显示你的显卡型号，矩阵乘法能跑通，说明环境没问题。如果CUDA available是 False，按这个顺序排查：先看nvidia-smi能不能跑，再看nvcc -V版本对不对，最后看 PyTorch 装的是不是 GPU 版本（torch.version.cuda为 None 就是 CPU 版）。

我遇到过一种情况：nvidia-smi正常，nvcc正常，但 PyTorch 就是检测不到 GPU。最后发现是 conda 环境里装了一个 CPU 版的pytorch-cuda包，和 pip 装的冲突了。解决办法是pip uninstall torch然后重装，或者干脆重建环境。所以环境里不要混用 conda 和 pip 装 PyTorch，二选一。

5. 性能调优与资源限制

5.1 .wslconfig 的内存与 CPU 分配

WSL2 默认会占用宿主机最多 50% 的内存，或者 8GB（取较小值）。如果你机器有 32GB 内存，WSL2 最多用 16GB，跑大模型可能不够。可以在 Windows 用户目录下创建.wslconfig文件（路径是C:\Users\你的用户名\.wslconfig），内容如下：

[wsl2] memory=24GB processors=8 swap=8GB localhostForwarding=true

memory是 WSL2 能用的最大内存，processors是 CPU 核心数，swap是交换空间。改完之后wsl --shutdown重启生效。注意memory不要设得太大，要给 Windows 主系统留至少 8GB，不然主系统会卡。我 32GB 的机器设 24GB，实测训练时主系统还能正常办公。

还有一个参数nestedVirtualization，如果你要在 WSL2 里跑 Docker，需要设为 true。不过 Docker Desktop 现在对 WSL2 支持很好，一般不用手动开。

5.2 文件系统性能：别在 /mnt/c 下跑训练

这是 WSL2 性能优化的核心要点。WSL2 访问 Windows 文件系统（/mnt/c、/mnt/d）走的是 9P 协议，性能很差，尤其是小文件读写。我实测过，在/mnt/d下加载 ImageNet 数据集，比在 WSL2 原生文件系统（~/下）慢 5 到 10 倍。所以训练数据、代码、模型权重都放在 WSL2 的~/目录下，不要放在/mnt/c或/mnt/d。

那怎么在 Windows 和 WSL2 之间传文件？两个办法：一是用cp命令从/mnt/d拷到~/，拷一次就行；二是在 Windows 资源管理器地址栏输入\\wsl$\Ubuntu\home\你的用户名，直接访问 WSL2 文件系统，拖拽文件。第二种方式更方便，我平时就用这个。

另外，如果你用 VS Code 开发，装一个 WSL 扩展，直接在 WSL2 环境里打开项目，终端、调试、Git 全在 Linux 侧，体验和原生 Linux 一样。这样就不用担心文件路径问题了。

5.3 GPU 显存监控与 OOM 处理

训练时显存不够（OOM）是最常见的问题。监控显存用nvidia-smi -l 1，每秒刷新一次。或者用watch -n 1 nvidia-smi，效果一样。更精细的监控可以在 Python 里用torch.cuda.memory_summary()，能看到每个 tensor 占了多少显存。

如果 OOM 了，按这个顺序处理：第一，减小 batch size，这是最直接的办法；第二，用梯度累积（gradient accumulation）模拟大 batch；第三，用混合精度训练（AMP），显存能省 30% 到 50%；第四，用torch.cuda.empty_cache()清理缓存，但这个只能回收未使用的显存，效果有限；第五，如果还不行，考虑模型并行或者租云 GPU。

我踩过的一个坑是：PyTorch 默认会缓存显存，即使 tensor 被释放了，显存也不一定马上还给系统。所以nvidia-smi显示的显存占用可能比实际需要的高。这时候用torch.cuda.memory_allocated()看实际占用，用torch.cuda.memory_reserved()看缓存占用。如果 reserved 远大于 allocated，说明缓存没释放，可以调小PYTORCH_CUDA_ALLOC_CONF的max_split_size_mb参数。

6. 常见问题排查速查表

6.1 安装阶段的高频报错

6.2 运行阶段的性能问题

训练速度慢是最让人头疼的问题。排查思路是这样的：先用nvidia-smi看 GPU 利用率，如果低于 50%，说明瓶颈在数据加载或 CPU；如果接近 100%，说明 GPU 跑满了，速度慢可能是模型本身计算量大。数据加载慢的话，把DataLoader的num_workers调大，一般设为 CPU 核心数的 2 到 4 倍。我 8 核的机器设 8 个 worker，实测比默认的 0 快 3 倍多。

还有一个常见问题是pin_memory。设为 True 能加速 CPU 到 GPU 的数据传输，但会占用更多内存。如果内存紧张就设 False。另外persistent_workers=True能避免每个 epoch 重新创建 worker 进程，对小数据集提升明显。

如果 GPU 利用率忽高忽低，可能是 batch size 太小，GPU 一直在等数据。这时候要么加大 batch size，要么用prefetch_factor预取数据。我一般设prefetch_factor=2，效果不错。

6.3 WSL2 特有的坑

WSL2 有一个很烦人的问题：长时间训练后，内存占用会越来越高，最后把宿主机拖垮。这是因为 WSL2 的 Linux 内核不会主动回收缓存。解决办法是在.wslconfig里设memory上限，或者定期执行echo 3 | sudo tee /proc/sys/vm/drop_caches清理缓存。我一般写个定时脚本，每小时清一次。

另一个坑是时钟漂移。WSL2 的虚拟时钟和宿主机可能不同步，导致time.time()返回值不准，影响训练日志的时间戳。解决办法是执行sudo hwclock -s同步时钟，或者装ntpdate定期同步。这个问题在跑长时间训练时才会暴露，短时间测试发现不了。

还有就是网络问题。WSL2 用的是 NAT 网络，宿主机访问 WSL2 的服务需要端口转发。如果你在 WSL2 里跑 TensorBoard（默认 6006 端口），在 Windows 浏览器里访问localhost:6006一般能通，因为 WSL2 有 localhost 转发。但如果访问不了，检查.wslconfig里localhostForwarding是否为 true。

7. 我的实际使用体会与几个小技巧

这套环境我用了大半年，跑过 ResNet 训练、BERT 微调、Stable Diffusion 推理，整体稳定性很好。最大的感受是：WSL2 的 GPU 直通已经足够成熟，日常开发完全够用。唯一让我不太满意的是显存监控不如原生 Linux 直观，nvidia-smi的刷新有延迟，不过用watch命令能缓解。

分享几个我总结的小技巧。第一，把常用的 conda 环境导出成environment.yml，换机器或者重装时一条命令恢复，省得重新配。命令是conda env export > environment.yml，恢复用conda env create -f environment.yml。第二，训练脚本里加torch.backends.cudnn.benchmark = True，能让 cuDNN 自动选择最优卷积算法，速度提升 10% 到 20%，但输入尺寸变化频繁的话反而会变慢，要视情况开。

第三，如果你同时用多个 conda 环境，建议装conda-pack，能把环境打包成 tar 包，迁移到其他机器不用重新下载依赖。第四，WSL2 的终端建议用 Windows Terminal，支持多标签、分屏、自定义配色，比默认的 cmd 好用太多。第五，定期执行wsl --shutdown重启 WSL2，能释放一些僵尸进程占用的资源，我一般一周重启一次。

最后说一个容易被忽略的点：备份。WSL2 的虚拟磁盘是ext4.vhdx文件，默认在C:\Users\你的用户名\AppData\Local\Packages\...下。这个文件会随着使用越来越大，而且一旦损坏，整个环境就没了。我建议定期用wsl --export导出备份，放到 D 盘或者移动硬盘。导出命令是wsl --export Ubuntu D:\backup\ubuntu-20240101.tar，恢复用wsl --import。这个习惯帮我省过好几次事，有一次磁盘满了导致 vhdx 损坏，全靠备份恢复回来。