从零开始部署DeepSeek-R1：Web服务搭建完整指南

从零开始部署DeepSeek-R1：Web服务搭建完整指南

你是不是也想拥有一个属于自己的AI推理服务？不仅能写代码、解数学题，还能进行复杂逻辑推理——听起来很酷，但真的难搞吗？其实只要选对模型、步骤清晰，哪怕你是新手，也能在几十分钟内把这样的AI服务跑起来。本文要带你一步步部署DeepSeek-R1-Distill-Qwen-1.5B模型的 Web 服务，全程手把手操作，不跳坑，不甩锅。

这个模型可不是普通的小家伙：它基于 Qwen 1.5B 架构，通过 DeepSeek-R1 的强化学习数据蒸馏技术进一步优化，在数学推理、代码生成和逻辑分析方面表现远超同级别模型。最关键的是，它对资源要求相对友好，一块支持 CUDA 的 GPU 就能流畅运行。接下来，我会从环境准备到服务上线，完整演示如何把它变成一个可通过浏览器访问的交互式 Web 应用。

1. 项目概述与核心特性

1.1 模型背景与能力亮点

DeepSeek-R1-Distill-Qwen-1.5B 是一个经过深度优化的轻量级推理模型，它的“聪明”不是凭空来的，而是通过强化学习驱动的数据蒸馏技术训练而成。简单来说，就是让更强的“老师模型”去指导这个 1.5B 参数的“学生模型”，专门针对需要思考的任务（比如解方程、写函数、推理判断）反复练习，最终让它学会“像人一样一步步想问题”。

这使得它在以下三类任务中表现出色：

• 数学推理：能理解并解答初中到高中难度的数学题，甚至可以处理带变量的代数表达式。
• 代码生成：支持 Python、JavaScript 等主流语言，能根据自然语言描述生成可运行的代码片段。
• 逻辑推理：擅长解决谜题、判断因果关系、分析文本中的隐含信息。

别看它只有 1.5B 参数，实际效果却常常让人惊喜。而且由于体积小，加载快，非常适合本地部署或中小型应用集成。

1.2 运行环境与硬件要求

这个模型依赖 GPU 加速推理，必须使用支持 CUDA 的显卡。以下是最低和推荐配置：

如果你的设备显存不足，也可以切换为 CPU 模式运行，但响应速度会明显变慢，仅适合测试用途。

2. 环境准备与依赖安装

2.1 基础环境检查

在开始之前，先确认你的系统满足基本条件。打开终端，依次执行以下命令：

# 检查 Python 版本 python3 --version # 检查 CUDA 是否可用 nvidia-smi # 查看 CUDA 版本 nvcc --version

如果nvidia-smi能正常输出显卡信息，并且 CUDA 版本为 12.x，那就可以继续了。

2.2 安装核心依赖包

我们需要三个关键库：torch用于模型加载和推理，transformers提供模型接口，gradio则用来快速构建 Web 界面。

运行以下命令安装：

pip install torch==2.9.1 torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128 pip install transformers==4.57.3 pip install gradio==6.2.0

注意：这里指定了 PyTorch 的 CUDA 12.8 版本源，确保 GPU 支持。如果你使用的是其他 CUDA 版本，请前往 PyTorch 官网 获取对应安装命令。

安装完成后，可以用一段小代码测试是否成功：

import torch print(torch.cuda.is_available()) # 应输出 True print(torch.__version__)

3. 模型获取与本地缓存

3.1 下载模型文件

模型托管在 Hugging Face 上，你可以直接使用官方工具下载：

huggingface-cli download deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B --local-dir /root/.cache/huggingface/deepseek-ai/DeepSeek-R1-Distill-Qwen-1___5B

说明：路径中的1___5B是为了避免特殊字符冲突，实际是1.5B。Hugging Face 库会自动识别。

如果你网络较慢，建议使用代理或国内镜像加速下载。

3.2 验证模型加载

创建一个临时脚本test_load.py来验证模型能否正确加载：

from transformers import AutoTokenizer, AutoModelForCausalLM model_path = "/root/.cache/huggingface/deepseek-ai/DeepSeek-R1-Distill-Qwen-1___5B" tokenizer = AutoTokenizer.from_pretrained(model_path) model = AutoModelForCausalLM.from_pretrained( model_path, device_map="auto", torch_dtype=torch.float16 # 半精度节省显存 ) print(" 模型加载成功！")

运行后如果没有报错，说明模型已准备就绪。

4. 启动 Web 服务

4.1 服务主程序解析

假设你的app.py内容如下：

import gradio as gr import torch from transformers import AutoTokenizer, AutoModelForCausalLM # 模型路径 MODEL_PATH = "/root/.cache/huggingface/deepseek-ai/DeepSeek-R1-Distill-Qwen-1___5B" DEVICE = "cuda" if torch.cuda.is_available() else "cpu" # 加载模型和分词器 tokenizer = AutoTokenizer.from_pretrained(MODEL_PATH) model = AutoModelForCausalLM.from_pretrained( MODEL_PATH, device_map="auto", torch_dtype=torch.float16 ) def generate_response(prompt, max_tokens=2048, temperature=0.6, top_p=0.95): inputs = tokenizer(prompt, return_tensors="pt").to(DEVICE) outputs = model.generate( **inputs, max_new_tokens=max_tokens, temperature=temperature, top_p=top_p, do_sample=True, pad_token_id=tokenizer.eos_token_id ) response = tokenizer.decode(outputs[0], skip_special_tokens=True) return response[len(prompt):] # 去掉输入部分 # 构建 Gradio 界面 demo = gr.Interface( fn=generate_response, inputs=[ gr.Textbox(label="输入提示", placeholder="请输入你的问题或指令..."), gr.Slider(128, 2048, value=2048, label="最大生成长度"), gr.Slider(0.1, 1.0, value=0.6, label="温度 Temperature"), gr.Slider(0.5, 1.0, value=0.95, label="Top-P") ], outputs=gr.Textbox(label="模型回复"), title="🧠 DeepSeek-R1-Distill-Qwen-1.5B 在线体验", description="支持数学推理、代码生成与逻辑分析，基于强化学习蒸馏优化" ) if __name__ == "__main__": demo.launch(server_name="0.0.0.0", server_port=7860)

这段代码做了几件事：

• 自动检测设备（GPU/CPU）
• 使用半精度（float16）加载模型以节省显存
• 定义生成函数，支持调节关键参数
• 用 Gradio 快速封装成网页界面

4.2 启动服务并访问

运行命令启动服务：

python3 /root/DeepSeek-R1-Distill-Qwen-1.5B/app.py

看到类似以下输出即表示成功：

Running on local URL: http://0.0.0.0:7860

此时你可以在浏览器中访问http://<服务器IP>:7860，就能看到交互界面了。

5. 后台运行与服务管理

5.1 使用 nohup 后台运行

为了让服务在关闭终端后仍持续运行，使用nohup命令：

nohup python3 app.py > /tmp/deepseek_web.log 2>&1 &

日志会保存在/tmp/deepseek_web.log，随时查看：

tail -f /tmp/deepseek_web.log

5.2 停止服务

找到进程并终止：

ps aux | grep "python3 app.py" | grep -v grep | awk '{print $2}' | xargs kill

或者更简洁的方式：

pkill -f "app.py"

6. Docker 部署方案（可选）

6.1 编写 Dockerfile

为了便于迁移和部署，推荐使用 Docker 打包。Dockerfile 如下：

FROM nvidia/cuda:12.1.0-runtime-ubuntu22.04 RUN apt-get update && apt-get install -y \ python3.11 \ python3-pip \ && rm -rf /var/lib/apt/lists/* WORKDIR /app COPY app.py . # 复制本地缓存的模型（需提前下载好） COPY -r /root/.cache/huggingface /root/.cache/huggingface RUN pip3 install torch==2.9.1 transformers==4.57.3 gradio==6.2.0 EXPOSE 7860 CMD ["python3", "app.py"]

6.2 构建并运行容器

# 构建镜像 docker build -t deepseek-r1-1.5b:latest . # 运行容器（挂载模型缓存） docker run -d --gpus all -p 7860:7860 \ -v /root/.cache/huggingface:/root/.cache/huggingface \ --name deepseek-web deepseek-r1-1.5b:latest

这样无论换哪台机器，只要装了 Docker 和 NVIDIA 驱动，就能一键运行。

7. 常见问题与解决方案

7.1 端口被占用

如果启动时报错Address already in use，说明 7860 端口已被占用：

lsof -i:7860 # 或 netstat -tuln | grep 7860

查出 PID 后用kill <PID>结束进程，或修改app.py中的端口号。

7.2 GPU 显存不足

错误提示通常包含CUDA out of memory。解决方法有：

• 降低max_new_tokens至 1024 或更低
• 设置torch_dtype=torch.float16（已默认开启）
• 在代码中强制使用 CPU：

DEVICE = "cpu" model = AutoModelForCausalLM.from_pretrained(MODEL_PATH, device_map=None)

虽然慢一些，但至少能跑通。

7.3 模型加载失败

常见原因包括：

• 模型路径错误
• 缓存文件不完整
• 未设置local_files_only=True而网络无法访问 Hugging Face

可在加载时添加参数避免远程请求：

model = AutoModelForCausalLM.from_pretrained( MODEL_PATH, local_files_only=True, device_map="auto" )

8. 总结

我们从零开始，完成了 DeepSeek-R1-Distill-Qwen-1.5B 模型的完整 Web 服务部署。整个过程涵盖了环境配置、模型下载、服务启动、后台运行和 Docker 封装，每一步都力求清晰实用。你现在拥有的不仅是一个能对话的 AI，更是一个具备数学、代码和逻辑推理能力的智能助手。

这个模型虽然参数量不大，但在特定任务上的表现非常扎实，特别适合嵌入到教育工具、开发辅助、自动化脚本生成等场景中。下一步你可以尝试：

• 给它加上知识库检索（RAG），让它回答更专业的问题
• 封装成 API 接口供其他系统调用
• 添加多轮对话记忆功能，提升交互体验

动手试试吧，说不定下一个惊艳的 AI 应用，就从你这台服务器上诞生。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。