零基础搞定vLLM：Windows+WSL2+Ubuntu24.04+Docker全流程实录

零基础搞定vLLM：Windows+WSL2+Ubuntu24.04+Docker全流程实录

最近身边不少朋友开始尝试本地部署大语言模型，但一看到Linux、Docker这些词就头疼。作为从Windows一路摸爬滚打过来的开发者，我完全理解这种感受。今天这篇记录，就是为你准备的——如果你是完全没接触过Linux环境的Windows用户，想在自己的电脑上跑起vLLM这个高效的推理框架，那么跟着下面的步骤走，大概率能避开我踩过的那些坑。

整个过程我会从最基础的WSL2安装讲起，包括如何把Ubuntu系统从默认的C盘迁移到其他盘（这个对C盘空间紧张的朋友至关重要），再到Docker的配置和vLLM容器的启动。每个命令我都会解释清楚，遇到可能卡住的地方也会提前预警。咱们不追求理论深度，目标就一个：让你能亲手在自己的机器上把服务跑起来。

1. 基础环境搭建：WSL2与Ubuntu 24.04

在Windows上运行Linux应用，WSL2（Windows Subsystem for Linux）是目前最顺畅的方案。它不是一个完整的虚拟机，性能损耗小，和Windows系统的文件互访也很方便。我们的第一步就是把它装好。

打开Windows PowerShell（不是命令提示符CMD）。在开始菜单搜索“PowerShell”，右键选择“以管理员身份运行”。这是后续所有系统级操作的基础。

在闪烁的光标处，输入以下命令并回车：

wsl --install

这个命令会默认安装WSL2和Ubuntu发行版。但这里有个小问题：默认的Ubuntu版本可能不是最新的，且安装位置不可控。我更喜欢明确指定版本和后续的安装路径，所以更推荐下面这个流程。

首先，只安装WSL2的基础功能，不附带任何Linux发行版：

wsl --install --no-distribution

执行后系统可能会提示重启，按照要求操作即可。重启后再次以管理员身份打开PowerShell，查看可用的Linux发行版列表：

wsl --list --online

你会看到一个列表，其中应该包含“Ubuntu-24.04”。接下来安装它：

wsl --install -d Ubuntu-24.04

安装过程中，系统会提示你创建Unix用户名和密码。这个密码在后续使用sudo命令时会经常用到，请务必记住。

安装完成后，你可以在开始菜单找到“Ubuntu 24.04 on Windows”并启动它。第一次启动会进行初始化，稍等片刻就会看到一个Linux终端窗口。恭喜，你的Windows里已经有一个完整的Linux子系统了。

提示：如果你在安装或更新过程中遇到网络速度极慢的问题，可能是因为系统服务访问网络的方式受限。这个问题我们会在后续配置中解决，暂时可以先跳过。

1.1 迁移Ubuntu安装位置，释放C盘空间

WSL默认将Linux发行版安装在C盘用户目录下。随着我们后续安装软件、拉取Docker镜像和模型文件，这个虚拟磁盘文件会变得非常庞大，很容易挤占宝贵的C盘空间。因此，在开始深入使用前，我强烈建议你先把它迁移到其他盘符。

迁移的原理是：将当前系统导出为一个备份文件，然后从备份文件导入到一个新的位置。以下是详细步骤：

1. 关闭WSL：首先，我们需要停止正在运行的Ubuntu子系统。在刚才的管理员PowerShell中执行：

   wsl --shutdown
   

   这个命令会终止所有WSL实例的运行。

2. 确认状态：输入以下命令，查看所有WSL分发版的状态。

   wsl -l -v
   

   如果看到Ubuntu-24.04的STATE显示为Stopped，说明已经成功关闭。

3. 准备新位置：在你的目标盘（比如D盘、E盘）创建一个文件夹，例如D:\WSL\Ubuntu24。这个路径将作为新系统的家。

4. 导出系统：将现有的Ubuntu系统导出为一个压缩包。在PowerShell中执行（请将路径替换为你刚才创建的实际路径）：

   wsl --export Ubuntu-24.04 D:\WSL\Ubuntu24\ubuntu_backup.tar
   

   这个过程可能需要几分钟，时间取决于你已安装系统的大小。

5. 注销原系统：导出成功后，就可以移除旧的、仍在C盘的系统了。

   wsl --unregister Ubuntu-24.04
   

   系统会提示确认，输入y并回车。再次运行wsl -l -v，如果列表为空，说明卸载成功。

6. 导入到新位置：现在，从备份文件在新位置创建一个全新的Ubuntu实例。