news 2026/10/23 10:43:23

DeepSeek本地部署全教程:Ollama安装、模型下载与Chatbox配置避坑指南

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
DeepSeek本地部署全教程:Ollama安装、模型下载与Chatbox配置避坑指南

简介:面向希望在个人电脑上本地运行DeepSeek模型的开发者与AI爱好者,这份PDF教程围绕Ollama框架展开,覆盖从安装到交互的完整部署链路,帮助用户摆脱云端限制,低成本获得深度推理能力。资源包为单文件PDF,大小仅177KB,信息密度较高,适合作为随查随用的速查手册。教程先列出Ollama在Windows、macOS、Linux不同系统下的官方下载与安装要点;再按DeepSeek-R1系列1.5B、7B、8B、14B、32B、70B、671B等版本分别给出磁盘占用、运行命令与适用硬件说明,并解释最低配置(4GB显存、8GB内存)与推荐配置(16GB以上内存、RTX 3050及以上独立显卡)下的模型选择逻辑,方便读者按机器性能快速定位版本。指南还演示如何利用Chatbox配置Ollama API,将命令行交互转换为图形化界面,显著降低使用门槛;对于模型版本查看、对话启动等常用操作,也整理成简明命令与截图示例。整个PDF相当于一份端到端本地部署实操笔记,覆盖环境准备、模型选择、运行验证与交互优化四个环节。已有1406人学习/下载,对初次尝试本地大模型或想快速上手DeepSeek的用户而言,这份指南能有效缩短排错时间,是一份实用的入门参考资料。

1. DeepSeek本地化部署:先装Ollama还是先下模型,顺序错了全是坑

想在自己电脑上跑 DeepSeek 本地部署,大多数人第一反应是去 Hugging Face 或 Model Scope 下载几个 GB 的模型文件,结果下到一半发现没有推理框架根本跑不动,要么就是先装了一堆 Python 依赖和 CUDA 库,最后被版本冲突折腾到重装系统。实际上 DeepSeek 本地化部署的正常顺序是:先装 Ollama 框架,再通过框架去拉取模型权重,框架负责模型加载、显存管理、API 服务,模型文件本身只是数据。Ollama 把这几层黑匣子全封装好了,命令行敲一条ollama run就能让 7B 参数模型在你自己的电脑上跑起来。这篇部署教程专给卡在环境搭建这一步的人,全程只涉及 Ollama、DeepSeek R1 模型和 Chatbox 可视化界面三个环节,照着顺序走完就能得到一个可以日常对话的本地 AI。

2. Ollama安装:三个平台装法不同,Windows双击前先看一眼磁盘

2.1 Windows安装:OllamaSetup.exe 的下载与安装细节

Ollama 的官方下载地址是https://ollama.com/download,打开之后页面会自动识别你的操作系统,Windows 用户拿到的是OllamaSetup.exe。这里有一个很容易被忽略的点:Ollama 安装包默认把程序装到当前用户的%LOCALAPPDATA%\Programs\Ollama目录,而不是传统的C:\Program Files,安装过程一路 Next 没有任何自定义目录的选项,装完也不需要勾选任何组件,因为程序本体、命令行工具和服务进程是一起装好的。

下载完成后直接双击运行OllamaSetup.exe,Windows 可能会出现 UAC 弹窗提示是否允许更改设备,选"是"。安装进度条走完之后屏幕上不会弹出什么欢迎界面,真正的安装成功标志是右下角系统托盘里出现一只小羊图标,同时命令行工具ollama已经进入 PATH 环境变量。很多人装完以为失败了,因为桌面上没有任何快捷方式,实际上 Ollama 是后台服务型程序,没有桌面入口是正常的。此时按Win + R输入cmd回车,在终端里执行:

ollama --version

正常输出类似ollama version 0.x.x就说明命令行工具可用。如果提示"不是内部或外部命令",最常见的原因是安装后当前终端窗口没有刷新 PATH 环境变量,关掉终端重新开一个就好,或者用 PowerShell 管理员模式再验证一次。这里我一般会强调:不要在安装包还在跑的时候就去开终端执行命令,等托盘图标出现再动。

2.2 Linux与macOS安装:官方脚本最省事,别自己编译

虽然这篇部署教程以 Windows 为主,但 Ollama 官方对 Linux 和 macOS 也有完整支持。Linux 上常见做法是直接用官方安装脚本一键装好,命令如下:

curl -fsSL https://ollama.com/install.sh | sh

这条命令会检测系统是 systemd 还是 init 风格,自动注册 Ollama 后台服务并启动。注意执行之前先确认系统里有curl和bzip2,这两个是脚本运行所必需的依赖,少了会报错。用apt install curl bzip2 -y或yum install curl bzip2 -y补上即可,Ubuntu 22.04 和 CentOS 7 上都实测过,没有出现依赖陷阱。

macOS 用户则直接下载 dmg 文件,拖到 Applications 目录就算装完。macOS 上首次执行ollama run时系统会弹权限确认,需要去"系统设置-隐私与安全性"里允许应用运行。Linux 用户装完后执行:

ollama serve

如果提示服务已经在运行(比如Error: listen tcp 127.0.0.1:11434: bind: address already in use),说明脚本已经帮你把服务拉起来了,这是正常现象,不用管。需要确认服务状态时执行ollama list,如果输出空表头就说明服务正常。

2.3 安装后的第一件事:确认服务端口可访问

Ollama 装完会自动监听本机 11434 端口,所有模型推理请求都走这个端口,Chatbox 等第三方工具也是通过这个端口对接的。所以安装完成后我习惯先验证端口通了,再继续往下走。Windows 下可以用:

netstat -ano | findstr 11434

看到LISTENING状态就是正常的。Linux 下用ss -tlnp | grep 11434。这一步现在做掉,后面 Chatbox 连不上时就不用怀疑服务没起来了。另外注意:Ollama 的模型文件默认下载到 C 盘用户目录下的.ollama\models文件夹,这一点在下一章拉取大模型时会直接决定你 C 盘的剩余空间够不够用,提前心里有数。

3. 拉取DeepSeek R1模型:七个版本参数对比与磁盘占用

3.1 版本选型:从1.5b到671b怎么根据硬件挑

DeepSeek R1 系列在 Ollama 模型库里有七个版本可以拉取,每个版本对应不同的参数规模和磁盘占用。官方给出的对应关系如下表:

版本C盘占用最低内存建议适合场景
deepseek-r1:1.5b1.1GB8GB无独显老机器、简单问答
deepseek-r1:7b4.7GB16GB日常对话、代码补全
deepseek-r1:8b4.9GB16GB与7b接近,部分任务略优
deepseek-r1:14b9.0GB16GB以上深度推理、长文本分析
deepseek-r1:32b20GB32GB以上复杂逻辑推理
deepseek-r1:70b43GB64GB以上专业级深度推理
deepseek-r1:671b404GB多卡服务器企业级部署

选版本的核心原则是:显存(或统一内存)能装下哪个就选哪个,因为模型权重在推理时需要加载到显存或内存里。4GB 显存配 8GB 内存的机器跑 1.5b 就够用,RTX 3050 及以上的独立显卡可以尝试 7b 和 8b,16GB 内存且显卡够劲的机器可以上 14b。32b 以上版本需要对硬件有十足信心,671b 那个 404GB 的占用基本是给多卡服务器准备的家用机不用惦记。

这里有个容易误判的地方:官方给出的磁盘占用是模型压缩后的量化文件大小,不是运行时内存占用。运行时实际占用通常比文件大小略高,因为推理还需要缓存空间。所以选版本时,不要看到 C 盘还剩 10GB 就去装 14b(文件 9GB),装完一跑可能因为内存不够直接卡死。我一般建议:模型文件占比控制在磁盘剩余空间的 50% 以内,显存占用不超过显卡总显存。

3.2 下载与运行:ollama run 背后做了什么

Windows 下模型拉取的完整流程是:按Win + X选择"Windows PowerShell(管理员)"或"终端(管理员)",执行:

ollama run deepseek-r1:7b

第一次执行这条命令时,Ollama 会自动从模型仓库下载 deepseek-r1:7b 对应的权重文件,下载完成后才真正进入对话模式。终端里显示success表示模型已经就绪,此时可以直接输入问题开始对话。注意ollama run是下载加运行的组合命令,模型文件不存在时先拉取,已存在时直接加载。后面再次用到同一个版本时,不会再重复下载。

这里拆解一下ollama run deepseek-r1:7b的格式:run是动作,deepseek-r1是模型名,:7b是版本标签。模型名和标签之间用冒号分隔,漏掉标签也可以执行,但 Ollama 可能拉取不到默认标签而报错。整个下载过程没有进度条之外的任何交互,不需要手动解压、不需要手动放文件,Ollama 完全自己管理。下载速度取决于你的网络环境,7b 版本 4.7GB 在普通宽带下需要几分钟到十几分钟不等,如果长时间停在pulling manifest或 0%,大概率是网络问题(具体排查写在第 5 章的避坑记录里)。

进入对话后,输入/bye退出对话模式,模型会从内存中卸载。如果想在退出后确认已下载的模型,用:

ollama list

输出结果包含模型名称、版本标签、大小和修改时间。这一步能帮你确认模型确实已经落在本地磁盘上,而不是每次对话都临时拉取。

3.3 模型管理:查看、停止、删除时用什么命令

训练完模型、对话结束后,新手最容易困惑的三个操作是:怎么查看当前有哪些模型、怎么停掉正在后台跑的模型、怎么把模型从磁盘上删掉释放空间。分别对应的命令如下:

ollama list ollama stop deepseek-r1:7b ollama rm deepseek-r1:7b

ollama list查看本机已有模型列表,ollama stop指定模型名停止后台推理进程,ollama rm删除指定模型的所有权重文件。特别注意:ollama rm不是卸载 Ollama,只是删模型文件,删之前用ollama list确认版本标签写法完全一致,否则会提示model not found。C 盘空间紧张时,把不常用的 70b 或 32b 删掉是最直接的释放手段,比用系统清理工具好使多了。

4. Chatbox可视化:把命令行黑窗口变成图形对话界面

4.1 Chatbox下载与安装:1.9.5 版本的安装流程

命令行里跑 DeepSeek 虽然能对话,但每次都要开终端、敲命令,对话体验实在谈不上友好。Chatbox 是一个开源的 AI 对话客户端,支持对接 Ollama 本地模型,可以把它理解为给本地 AI 套了一个微信式的前端外壳。官方下载地址是https://chatboxai.app/zh#download,进入页面后根据系统选择对应版本,Windows 用户下载Chatbox-1.9.5-Setup.exe。

双击安装包,跟 Ollama 一样一路 Next 就行,Chatbox 默认安装到C:\Users\你的用户名\AppData\Local\Programs\chatbox,安装过程也是全自动的。装完首次启动会进入一个设置引导界面,这个界面的配置直接决定 Chatbox 能不能连上本地 Ollama 服务,具体选法见 4.2。因为 Chatbox 只是 API 客户端,不携带任何模型权重,所以安装包体积也就几十 MB,装完后不会占用额外磁盘空间。

这里有个小坑:下载页面会同时提供 Windows、macOS、Linux 多个安装包,如果不小心配合网络环境选错架构版本(x64 和 arm64),安装是能成功的,但启动时可能报The dynamic library failed to load之类的错,因为程序架构和系统不匹配。装之前确认自己的 CPU 是 Intel/AMD(x64)还是 ARM 架构,再选对应的安装包,能省掉一次卸载重装。

4.2 配置Ollama API:选对模型,填对地址就能连上

Chatbox 启动后,设置界面最关键的一步是:在"选择一个 AI 服务提供商"区域,选择"使用自己的 API Key 或本地模型"选项,然后在下拉列表里选择Ollama API。接着在模型输入框里填deepseek-r1:7b(和你在终端里 ollama run 的版本标签要完全一致),最后点保存。

Chatbox 的 Ollama API 模式下,默认 API 地址会是http://localhost:11434或http://127.0.0.1:11434,一般不需要手动改动。如果你的本地 Ollama 服务正常监听 11434 端口,保存后 Chatbox 会自动探测并显示模型已连接。如果显示连接失败,回到第 2 章结尾的端口验证步骤,先确认 Ollama 进程还活着,再检查 Chatbox 地址是否被改成了别的值。这个配置的原理很简单:Chatbox 通过 HTTP 请求把对话内容发给 Ollama 的推理接口,Ollama 处理后返回回复流,Chatbox 负责渲染成气泡界面。底层还是 DeepSeek 模型本身,不涉及云端传输,对话数据始终留在本机。

4.3 模型选择与硬件的最后一道匹配

Chatbox 里选的模型版本不一定要和命令行里用过的一致,它是独立的 API 调用,每次发送消息都会让 Ollama 去加载对应模型。所以假如你的机器内存只有 16GB,在 Chatbox 里选 14b 版本,首次对话会明显感觉到延迟,这是模型加载过程中的正常现象,第二次以后就快了。如果你同时开了命令行和 Chatbox 跑两个不同版本的模型,内存压力会叠加,小内存机器容易卡死。我的建议是:全流程固定一个版本,终端调试用 7b、Chatbox 日常用 7b,不要混搭。等后面需要更强推理能力时再统一换 14b。

5. DeepSeek本地部署常见问题:五条踩坑记录与修复

5.1 Chatbox提示连接失败,但Ollama明明装了

现象:Chatbox 配置完成后点击发送消息,界面弹出"连接失败"或"Failed to fetch"之类的报错。原因:Ollama 后台服务没有正常运行。Windows 上 Ollama 安装后服务默认是开机自启的,但如果安装后手动结束过托盘进程,或者服务因异常退出,11434 端口就不会有进程监听。解决:先执行ollama list,如果提示连接出错,就去系统托盘重新打开 Ollama(或者直接执行ollama serve),再回 Chatbox 重发消息。切忌一看到连接失败就卸载重装,端口没通才是根因。

5.2 下载模型卡在 pulling manifest 不动

现象:执行ollama run deepseek-r1:7b后长时间停在pulling manifest,或者进度从 0% 开始但长时间不涨。原因:Ollama 的模型仓库在国内网络环境下访问不够稳定,下载连接被重置或超时,manifest 是模型元数据,拉不到它后面所有层都没法下。解决:最常见有效的做法是先 Ctrl+C 终止当前命令,然后重新执行一次,中断后的下载会从断点续传,多试几次往往能成功。另外一个适合 Windows 的做法是把模型默认目录改到非系统盘,减少磁盘和权限对下载的干扰——设置用户环境变量OLLAMA_MODELS=D:\ollama\models后重启 Ollama,然后重新ollama run。如果是公司网络限制严格的情况,可以开手机热点试一下,通常能绕过本地网络的限速和封锁问题。

5.3 模型跑起来后C盘空间瞬间少了好几GB

现象:装完 7b 模型后 C 盘可用空间少了 5GB 以上,甚至直接变红。原因:Ollama 默认把模型文件存在C:\Users\你的用户名\.ollama\models目录下,所有版本的模型权重都往这个目录堆,1.5b 加 7b 加 14b 三个版本加起来轻松超过 15GB。解决:在 Windows 系统环境变量里新增变量名OLLAMA_MODELS,变量值指定到剩余空间充足的其他盘,比如D:\ollama\models,然后重启 Ollama 服务,之前下载的模型文件需要手动从原目录剪切过去。这个操作在 Windows 下比 Linux 更值得提前做,因为大多数人的 C 盘是系统分区,剩余空间经不起几个大模型的连番轰炸。

5.4 对话一个字一个字往外蹦,速度像蜗牛

现象:模型成功加载也进入对话了,但回复速度极慢,终端里光标一顿一顿,CPU 占用接近 100%,风扇狂转。原因:显存不够,模型权重只能放在内存里靠 CPU 计算,或者 GPU 显存和OLLAMA_GPU_OVERHEAD相关设置没有生效。解决:换用更小版本的模型,比如 7b 换 1.5b,1.5b 在 4GB 显存下能获得可接受的生成速度;或者关掉所有其他占显存的应用(游戏、浏览器硬件加速)再试。还有个常见做法是打开终端看ollama ps输出,确认模型加载到了 GPU 还是 CPU,如果显示CPU而你的显卡支持 CUDA,就要检查显卡驱动和 CUDA 环境(Windows 上 Ollama 一般自动用 DirectML 或 CUDA,驱动太旧会回退到 CPU)。

5.5 再次打开终端执行ollama run提示命令找不到

现象:第一天装好还能用,第二天开终端执行ollama run deepseek-r1:7b,系统提示"不是内部或外部命令"。原因:Ollama 安装时会把所在目录加入系统 PATH,但某些终端工具(特别是 PowerShell 和 Windows Terminal)启动时会缓存旧的 PATH 快照,新加的环境变量要等终端完全重启才生效。解决:关掉所有终端窗口,重新打开一个新的终端再执行;如果还不行,去环境变量设置里确认%LOCALAPPDATA%\Programs\Ollama是否在 Path 变量中,缺失时手动加上。这个现象经常让用户误以为 Ollama 坏了,其实程序活得好好的,纯粹是终端会话的 PATH 刷新问题。

6. 装完怎么验证:从ollama list到Chatbox对话的完整链路检查

整条部署做完,不要急着直接开始聊天,先走一遍完整链路验证,确认每一层都是通的,后面用起来才踏实。我每次给新环境装完 DeepSeek 本地部署都会强制走三个检查步骤。

第一步,验证 Ollama 命令行层。开一个新的 PowerShell 窗口,执行ollama list,输出里应该能看到deepseek-r1:7b这一行,说明模型文件已正确存放在本机磁盘。如果这一步查不到模型,Chatbox 那边无论怎么配置都不可能连上,因为 API 服务没有模型可加载。

第二步,验证推理层。执行ollama run deepseek-r1:7b进入命令行对话,输入一个测试问题,比如"用一句话解释什么是递归",观察是否正常流式输出回答。这一步能确认模型文件内容完整且能加载到推理引擎,不是损坏状态。确认输出正常后输入/bye退出。

第三步,验证可视化层。打开 Chatbox,在设置里确认模型是deepseek-r1:7b、API 地址是http://127.0.0.1:11434,然后发送同样的问题,如果 Chatbox 正常返回回答且界面没有报错,整条链路就是通的。

这套验证流程的优势在于:每走一步,出问题时都缩小了排查范围。终端能跑但 Chatbox 不能,问题必然在 Chatbox 配置;终端不能跑,问题在 Ollama 服务或模型文件。从那以后我每次给新机器做本地模型部署,都会强制走一遍这三步,不直接跳到 Chatbox 去聊天,宁可多花两分钟验证,也不愿等真正要用了才发现服务根本没起来。希望这个验证习惯也能帮到你,祝你的 DeepSeek 本地部署一路绿灯,装完即用。

本文还有配套的精品资源,点击获取

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/23 10:40:36

DeepSeek从入门到精通:操作指南与多功能实战详解

简介:这份《DeepSeek新手宝典:从入门到精通的超详细指南》面向科技爱好者、研究人员、学生及职场从业者,帮助零基础用户快速掌握这款人工智能工具的操作方式,并将其应用于日常学习与工作。内容围绕注册登录、界面功能、智能问答、…

作者头像 李华
网站建设 2026/10/23 10:33:36

AI Agent 进阶必读:把业务经验变成智能体可调用的能力

AI Agent 快速走向产业落地,传统 Workflow 固定流程模式短板逐步凸显:流程僵化、维护成本高,难以支撑智能体自主决策。Agent Skills 成为行业公认新方向,但多数从业者面对技能拆解、设计、联动优化无从下手,缺少一套标…

作者头像 李华
网站建设 2026/10/23 10:31:17

wx-cli REST API 完整参考:用 8 个端点搭建你的本地微信数据服务

【免费下载链接】wx-cli WeChat macOS database decryption and query tool 项目地址: https://gitcode.com/gh_mirrors/wxcl/wx-cli 点击查看 免费下载 wx-cli 是一个运行在 macOS 上的微信数据库解密与查询工具,它的 wx-cli server run 命令可以把本机…

作者头像 李华
网站建设 2026/10/23 10:28:18

YOLO在FPGA上的部署探索:从PT到Verilog的可行性分析

一、为什么“PT直接到Verilog”是一个真问题 把YOLO从PyTorch推到FPGA,工程师最先面对的不是“用什么板子”,而是路径选择:走Vitis AI的DPU黑盒,走HLS快速迭代,还是下到RTL用Verilog一针一线地写卷积引擎。2026年上半年的几个公开工作,恰好把这三条路线的真实边界摊开了…

作者头像 李华
网站建设 2026/10/23 10:24:40

ModernWMS 仓库管理教程:部署后跑通一单入库与出库

ModernWMS 仓库管理教程:部署后跑通一单入库与出库 【免费下载链接】ModernWMS The open source simple and complete warehouse management system is derived from our many years of experience in implementing erp projects. We stripped the original commerc…

作者头像 李华
网站建设 2026/10/23 10:07:25

Django手机商城全链路实战:从用户注册到支付宝支付的工程化落地

简介:这是一份基于Django框架开发的Python全栈实战项目——手机商城,面向具备基础Python和Web开发能力的学习者,适用于课程设计、毕业设计或全栈技能进阶训练。项目采用前后端分离架构:后端使用Django构建RESTful数据管理接口与后…

作者头像 李华