简介:面向希望在个人电脑上本地运行DeepSeek模型的开发者与AI爱好者,这份PDF教程围绕Ollama框架展开,覆盖从安装到交互的完整部署链路,帮助用户摆脱云端限制,低成本获得深度推理能力。资源包为单文件PDF,大小仅177KB,信息密度较高,适合作为随查随用的速查手册。教程先列出Ollama在Windows、macOS、Linux不同系统下的官方下载与安装要点;再按DeepSeek-R1系列1.5B、7B、8B、14B、32B、70B、671B等版本分别给出磁盘占用、运行命令与适用硬件说明,并解释最低配置(4GB显存、8GB内存)与推荐配置(16GB以上内存、RTX 3050及以上独立显卡)下的模型选择逻辑,方便读者按机器性能快速定位版本。指南还演示如何利用Chatbox配置Ollama API,将命令行交互转换为图形化界面,显著降低使用门槛;对于模型版本查看、对话启动等常用操作,也整理成简明命令与截图示例。整个PDF相当于一份端到端本地部署实操笔记,覆盖环境准备、模型选择、运行验证与交互优化四个环节。已有1406人学习/下载,对初次尝试本地大模型或想快速上手DeepSeek的用户而言,这份指南能有效缩短排错时间,是一份实用的入门参考资料。
1. DeepSeek本地化部署:先装Ollama还是先下模型,顺序错了全是坑
想在自己电脑上跑 DeepSeek 本地部署,大多数人第一反应是去 Hugging Face 或 Model Scope 下载几个 GB 的模型文件,结果下到一半发现没有推理框架根本跑不动,要么就是先装了一堆 Python 依赖和 CUDA 库,最后被版本冲突折腾到重装系统。实际上 DeepSeek 本地化部署的正常顺序是:先装 Ollama 框架,再通过框架去拉取模型权重,框架负责模型加载、显存管理、API 服务,模型文件本身只是数据。Ollama 把这几层黑匣子全封装好了,命令行敲一条ollama run就能让 7B 参数模型在你自己的电脑上跑起来。这篇部署教程专给卡在环境搭建这一步的人,全程只涉及 Ollama、DeepSeek R1 模型和 Chatbox 可视化界面三个环节,照着顺序走完就能得到一个可以日常对话的本地 AI。
2. Ollama安装:三个平台装法不同,Windows双击前先看一眼磁盘
2.1 Windows安装:OllamaSetup.exe 的下载与安装细节
Ollama 的官方下载地址是https://ollama.com/download,打开之后页面会自动识别你的操作系统,Windows 用户拿到的是OllamaSetup.exe。这里有一个很容易被忽略的点:Ollama 安装包默认把程序装到当前用户的%LOCALAPPDATA%\Programs\Ollama目录,而不是传统的C:\Program Files,安装过程一路 Next 没有任何自定义目录的选项,装完也不需要勾选任何组件,因为程序本体、命令行工具和服务进程是一起装好的。
下载完成后直接双击运行OllamaSetup.exe,Windows 可能会出现 UAC 弹窗提示是否允许更改设备,选"是"。安装进度条走完之后屏幕上不会弹出什么欢迎界面,真正的安装成功标志是右下角系统托盘里出现一只小羊图标,同时命令行工具ollama已经进入 PATH 环境变量。很多人装完以为失败了,因为桌面上没有任何快捷方式,实际上 Ollama 是后台服务型程序,没有桌面入口是正常的。此时按Win + R输入cmd回车,在终端里执行:
ollama --version正常输出类似ollama version 0.x.x就说明命令行工具可用。如果提示"不是内部或外部命令",最常见的原因是安装后当前终端窗口没有刷新 PATH 环境变量,关掉终端重新开一个就好,或者用 PowerShell 管理员模式再验证一次。这里我一般会强调:不要在安装包还在跑的时候就去开终端执行命令,等托盘图标出现再动。
2.2 Linux与macOS安装:官方脚本最省事,别自己编译
虽然这篇部署教程以 Windows 为主,但 Ollama 官方对 Linux 和 macOS 也有完整支持。Linux 上常见做法是直接用官方安装脚本一键装好,命令如下:
curl -fsSL https://ollama.com/install.sh | sh这条命令会检测系统是 systemd 还是 init 风格,自动注册 Ollama 后台服务并启动。注意执行之前先确认系统里有curl和bzip2,这两个是脚本运行所必需的依赖,少了会报错。用apt install curl bzip2 -y或yum install curl bzip2 -y补上即可,Ubuntu 22.04 和 CentOS 7 上都实测过,没有出现依赖陷阱。
macOS 用户则直接下载 dmg 文件,拖到 Applications 目录就算装完。macOS 上首次执行ollama run时系统会弹权限确认,需要去"系统设置-隐私与安全性"里允许应用运行。Linux 用户装完后执行:
ollama serve如果提示服务已经在运行(比如Error: listen tcp 127.0.0.1:11434: bind: address already in use),说明脚本已经帮你把服务拉起来了,这是正常现象,不用管。需要确认服务状态时执行ollama list,如果输出空表头就说明服务正常。
2.3 安装后的第一件事:确认服务端口可访问
Ollama 装完会自动监听本机 11434 端口,所有模型推理请求都走这个端口,Chatbox 等第三方工具也是通过这个端口对接的。所以安装完成后我习惯先验证端口通了,再继续往下走。Windows 下可以用:
netstat -ano | findstr 11434看到LISTENING状态就是正常的。Linux 下用ss -tlnp | grep 11434。这一步现在做掉,后面 Chatbox 连不上时就不用怀疑服务没起来了。另外注意:Ollama 的模型文件默认下载到 C 盘用户目录下的.ollama\models文件夹,这一点在下一章拉取大模型时会直接决定你 C 盘的剩余空间够不够用,提前心里有数。
3. 拉取DeepSeek R1模型:七个版本参数对比与磁盘占用
3.1 版本选型:从1.5b到671b怎么根据硬件挑
DeepSeek R1 系列在 Ollama 模型库里有七个版本可以拉取,每个版本对应不同的参数规模和磁盘占用。官方给出的对应关系如下表:
| 版本 | C盘占用 | 最低内存建议 | 适合场景 |
|---|---|---|---|
| deepseek-r1:1.5b | 1.1GB | 8GB | 无独显老机器、简单问答 |
| deepseek-r1:7b | 4.7GB | 16GB | 日常对话、代码补全 |
| deepseek-r1:8b | 4.9GB | 16GB | 与7b接近,部分任务略优 |
| deepseek-r1:14b | 9.0GB | 16GB以上 | 深度推理、长文本分析 |
| deepseek-r1:32b | 20GB | 32GB以上 | 复杂逻辑推理 |
| deepseek-r1:70b | 43GB | 64GB以上 | 专业级深度推理 |
| deepseek-r1:671b | 404GB | 多卡服务器 | 企业级部署 |
选版本的核心原则是:显存(或统一内存)能装下哪个就选哪个,因为模型权重在推理时需要加载到显存或内存里。4GB 显存配 8GB 内存的机器跑 1.5b 就够用,RTX 3050 及以上的独立显卡可以尝试 7b 和 8b,16GB 内存且显卡够劲的机器可以上 14b。32b 以上版本需要对硬件有十足信心,671b 那个 404GB 的占用基本是给多卡服务器准备的家用机不用惦记。
这里有个容易误判的地方:官方给出的磁盘占用是模型压缩后的量化文件大小,不是运行时内存占用。运行时实际占用通常比文件大小略高,因为推理还需要缓存空间。所以选版本时,不要看到 C 盘还剩 10GB 就去装 14b(文件 9GB),装完一跑可能因为内存不够直接卡死。我一般建议:模型文件占比控制在磁盘剩余空间的 50% 以内,显存占用不超过显卡总显存。
3.2 下载与运行:ollama run 背后做了什么
Windows 下模型拉取的完整流程是:按Win + X选择"Windows PowerShell(管理员)"或"终端(管理员)",执行:
ollama run deepseek-r1:7b第一次执行这条命令时,Ollama 会自动从模型仓库下载 deepseek-r1:7b 对应的权重文件,下载完成后才真正进入对话模式。终端里显示success表示模型已经就绪,此时可以直接输入问题开始对话。注意ollama run是下载加运行的组合命令,模型文件不存在时先拉取,已存在时直接加载。后面再次用到同一个版本时,不会再重复下载。
这里拆解一下ollama run deepseek-r1:7b的格式:run是动作,deepseek-r1是模型名,:7b是版本标签。模型名和标签之间用冒号分隔,漏掉标签也可以执行,但 Ollama 可能拉取不到默认标签而报错。整个下载过程没有进度条之外的任何交互,不需要手动解压、不需要手动放文件,Ollama 完全自己管理。下载速度取决于你的网络环境,7b 版本 4.7GB 在普通宽带下需要几分钟到十几分钟不等,如果长时间停在pulling manifest或 0%,大概率是网络问题(具体排查写在第 5 章的避坑记录里)。
进入对话后,输入/bye退出对话模式,模型会从内存中卸载。如果想在退出后确认已下载的模型,用:
ollama list输出结果包含模型名称、版本标签、大小和修改时间。这一步能帮你确认模型确实已经落在本地磁盘上,而不是每次对话都临时拉取。
3.3 模型管理:查看、停止、删除时用什么命令
训练完模型、对话结束后,新手最容易困惑的三个操作是:怎么查看当前有哪些模型、怎么停掉正在后台跑的模型、怎么把模型从磁盘上删掉释放空间。分别对应的命令如下:
ollama list ollama stop deepseek-r1:7b ollama rm deepseek-r1:7bollama list查看本机已有模型列表,ollama stop指定模型名停止后台推理进程,ollama rm删除指定模型的所有权重文件。特别注意:ollama rm不是卸载 Ollama,只是删模型文件,删之前用ollama list确认版本标签写法完全一致,否则会提示model not found。C 盘空间紧张时,把不常用的 70b 或 32b 删掉是最直接的释放手段,比用系统清理工具好使多了。
4. Chatbox可视化:把命令行黑窗口变成图形对话界面
4.1 Chatbox下载与安装:1.9.5 版本的安装流程
命令行里跑 DeepSeek 虽然能对话,但每次都要开终端、敲命令,对话体验实在谈不上友好。Chatbox 是一个开源的 AI 对话客户端,支持对接 Ollama 本地模型,可以把它理解为给本地 AI 套了一个微信式的前端外壳。官方下载地址是https://chatboxai.app/zh#download,进入页面后根据系统选择对应版本,Windows 用户下载Chatbox-1.9.5-Setup.exe。
双击安装包,跟 Ollama 一样一路 Next 就行,Chatbox 默认安装到C:\Users\你的用户名\AppData\Local\Programs\chatbox,安装过程也是全自动的。装完首次启动会进入一个设置引导界面,这个界面的配置直接决定 Chatbox 能不能连上本地 Ollama 服务,具体选法见 4.2。因为 Chatbox 只是 API 客户端,不携带任何模型权重,所以安装包体积也就几十 MB,装完后不会占用额外磁盘空间。
这里有个小坑:下载页面会同时提供 Windows、macOS、Linux 多个安装包,如果不小心配合网络环境选错架构版本(x64 和 arm64),安装是能成功的,但启动时可能报The dynamic library failed to load之类的错,因为程序架构和系统不匹配。装之前确认自己的 CPU 是 Intel/AMD(x64)还是 ARM 架构,再选对应的安装包,能省掉一次卸载重装。
4.2 配置Ollama API:选对模型,填对地址就能连上
Chatbox 启动后,设置界面最关键的一步是:在"选择一个 AI 服务提供商"区域,选择"使用自己的 API Key 或本地模型"选项,然后在下拉列表里选择Ollama API。接着在模型输入框里填deepseek-r1:7b(和你在终端里 ollama run 的版本标签要完全一致),最后点保存。
Chatbox 的 Ollama API 模式下,默认 API 地址会是http://localhost:11434或http://127.0.0.1:11434,一般不需要手动改动。如果你的本地 Ollama 服务正常监听 11434 端口,保存后 Chatbox 会自动探测并显示模型已连接。如果显示连接失败,回到第 2 章结尾的端口验证步骤,先确认 Ollama 进程还活着,再检查 Chatbox 地址是否被改成了别的值。这个配置的原理很简单:Chatbox 通过 HTTP 请求把对话内容发给 Ollama 的推理接口,Ollama 处理后返回回复流,Chatbox 负责渲染成气泡界面。底层还是 DeepSeek 模型本身,不涉及云端传输,对话数据始终留在本机。
4.3 模型选择与硬件的最后一道匹配
Chatbox 里选的模型版本不一定要和命令行里用过的一致,它是独立的 API 调用,每次发送消息都会让 Ollama 去加载对应模型。所以假如你的机器内存只有 16GB,在 Chatbox 里选 14b 版本,首次对话会明显感觉到延迟,这是模型加载过程中的正常现象,第二次以后就快了。如果你同时开了命令行和 Chatbox 跑两个不同版本的模型,内存压力会叠加,小内存机器容易卡死。我的建议是:全流程固定一个版本,终端调试用 7b、Chatbox 日常用 7b,不要混搭。等后面需要更强推理能力时再统一换 14b。
5. DeepSeek本地部署常见问题:五条踩坑记录与修复
5.1 Chatbox提示连接失败,但Ollama明明装了
现象:Chatbox 配置完成后点击发送消息,界面弹出"连接失败"或"Failed to fetch"之类的报错。原因:Ollama 后台服务没有正常运行。Windows 上 Ollama 安装后服务默认是开机自启的,但如果安装后手动结束过托盘进程,或者服务因异常退出,11434 端口就不会有进程监听。解决:先执行ollama list,如果提示连接出错,就去系统托盘重新打开 Ollama(或者直接执行ollama serve),再回 Chatbox 重发消息。切忌一看到连接失败就卸载重装,端口没通才是根因。
5.2 下载模型卡在 pulling manifest 不动
现象:执行ollama run deepseek-r1:7b后长时间停在pulling manifest,或者进度从 0% 开始但长时间不涨。原因:Ollama 的模型仓库在国内网络环境下访问不够稳定,下载连接被重置或超时,manifest 是模型元数据,拉不到它后面所有层都没法下。解决:最常见有效的做法是先 Ctrl+C 终止当前命令,然后重新执行一次,中断后的下载会从断点续传,多试几次往往能成功。另外一个适合 Windows 的做法是把模型默认目录改到非系统盘,减少磁盘和权限对下载的干扰——设置用户环境变量OLLAMA_MODELS=D:\ollama\models后重启 Ollama,然后重新ollama run。如果是公司网络限制严格的情况,可以开手机热点试一下,通常能绕过本地网络的限速和封锁问题。
5.3 模型跑起来后C盘空间瞬间少了好几GB
现象:装完 7b 模型后 C 盘可用空间少了 5GB 以上,甚至直接变红。原因:Ollama 默认把模型文件存在C:\Users\你的用户名\.ollama\models目录下,所有版本的模型权重都往这个目录堆,1.5b 加 7b 加 14b 三个版本加起来轻松超过 15GB。解决:在 Windows 系统环境变量里新增变量名OLLAMA_MODELS,变量值指定到剩余空间充足的其他盘,比如D:\ollama\models,然后重启 Ollama 服务,之前下载的模型文件需要手动从原目录剪切过去。这个操作在 Windows 下比 Linux 更值得提前做,因为大多数人的 C 盘是系统分区,剩余空间经不起几个大模型的连番轰炸。
5.4 对话一个字一个字往外蹦,速度像蜗牛
现象:模型成功加载也进入对话了,但回复速度极慢,终端里光标一顿一顿,CPU 占用接近 100%,风扇狂转。原因:显存不够,模型权重只能放在内存里靠 CPU 计算,或者 GPU 显存和OLLAMA_GPU_OVERHEAD相关设置没有生效。解决:换用更小版本的模型,比如 7b 换 1.5b,1.5b 在 4GB 显存下能获得可接受的生成速度;或者关掉所有其他占显存的应用(游戏、浏览器硬件加速)再试。还有个常见做法是打开终端看ollama ps输出,确认模型加载到了 GPU 还是 CPU,如果显示CPU而你的显卡支持 CUDA,就要检查显卡驱动和 CUDA 环境(Windows 上 Ollama 一般自动用 DirectML 或 CUDA,驱动太旧会回退到 CPU)。
5.5 再次打开终端执行ollama run提示命令找不到
现象:第一天装好还能用,第二天开终端执行ollama run deepseek-r1:7b,系统提示"不是内部或外部命令"。原因:Ollama 安装时会把所在目录加入系统 PATH,但某些终端工具(特别是 PowerShell 和 Windows Terminal)启动时会缓存旧的 PATH 快照,新加的环境变量要等终端完全重启才生效。解决:关掉所有终端窗口,重新打开一个新的终端再执行;如果还不行,去环境变量设置里确认%LOCALAPPDATA%\Programs\Ollama是否在 Path 变量中,缺失时手动加上。这个现象经常让用户误以为 Ollama 坏了,其实程序活得好好的,纯粹是终端会话的 PATH 刷新问题。
6. 装完怎么验证:从ollama list到Chatbox对话的完整链路检查
整条部署做完,不要急着直接开始聊天,先走一遍完整链路验证,确认每一层都是通的,后面用起来才踏实。我每次给新环境装完 DeepSeek 本地部署都会强制走三个检查步骤。
第一步,验证 Ollama 命令行层。开一个新的 PowerShell 窗口,执行ollama list,输出里应该能看到deepseek-r1:7b这一行,说明模型文件已正确存放在本机磁盘。如果这一步查不到模型,Chatbox 那边无论怎么配置都不可能连上,因为 API 服务没有模型可加载。
第二步,验证推理层。执行ollama run deepseek-r1:7b进入命令行对话,输入一个测试问题,比如"用一句话解释什么是递归",观察是否正常流式输出回答。这一步能确认模型文件内容完整且能加载到推理引擎,不是损坏状态。确认输出正常后输入/bye退出。
第三步,验证可视化层。打开 Chatbox,在设置里确认模型是deepseek-r1:7b、API 地址是http://127.0.0.1:11434,然后发送同样的问题,如果 Chatbox 正常返回回答且界面没有报错,整条链路就是通的。
这套验证流程的优势在于:每走一步,出问题时都缩小了排查范围。终端能跑但 Chatbox 不能,问题必然在 Chatbox 配置;终端不能跑,问题在 Ollama 服务或模型文件。从那以后我每次给新机器做本地模型部署,都会强制走一遍这三步,不直接跳到 Chatbox 去聊天,宁可多花两分钟验证,也不愿等真正要用了才发现服务根本没起来。希望这个验证习惯也能帮到你,祝你的 DeepSeek 本地部署一路绿灯,装完即用。
本文还有配套的精品资源,点击获取