简介面向银河麒麟桌面与服务器操作系统的DeepSeek深度求索本地化部署指南适合国产化操作系统环境下快速落地人工智能服务的运维人员、开发者和学习用户。资源包共一个PDF文档约两兆字节由麒麟软件生态发展部编写介绍了深度求索模型的四种使用方式网页版访问、客户端应用、本地部署及两者结合使用。文档说明网页版与软件商店客户端接入方法重点给出在银河麒麟高级服务器操作系统上利用部署工具运行该模型的完整流程包括模型规格选择、非×86架构动态库依赖报错解决办法、用第三方客户端接入本地服务的配置示例。此外还介绍应用程序接口密钥获取方式以及将模型集成到代码编辑器实现辅助编程的具体步骤并附桌面系统部署过程截图便于对照排查。目前已有五百一十二人学习下载适合希望在内网离线使用该服务的团队或个人参考。1. 把DeepSeek跑在银河麒麟上内网可用、数据不出门的AI本地化部署AI模型本地化部署这件事听起来炫落地全是细节。尤其当你用的是银河麒麟这类 Linux 发行版又要应对没有外网的环境光是把模型跑起来就能劝退不少人。这份基于银河麒麟桌面操作系统和银河麒麟高级服务器操作系统的 DeepSeek 本地化部署方法正好不是那种泛泛的科普而是把网页版、客户端、本地部署和 VS Code 集成四种用法都踩了一遍。它适合两类人一是需要在服务器上做深度学习算力调度的工程二是想把 AI 模型集成进 IDE 做辅助编程的开发者。它解决的核心问题是“在内网环境里怎么把 AI 模型真正用起来”而不是只丢给你一个 API 地址就结束。2. 先分清四种用法再动手网页版、客户端、API与本地模型的边界2.1 网页版与软件商店客户端适合快速体验但依赖外网文档排在最前面的两种用法门槛最低。第一种是纯网页版浏览器打开 DeepSeek 官方网址就能直接用或者从银河麒麟软件商店里搜“DeepSeek网页版”装一个入口。第二种是基于 API 的聊天客户端以 Chatbox 为例从软件商店安装后填入 API Key 就可以对话。要理解这两类方式的交付形态网页版本身不调用本地任何算力文字生成发生在远端服务器上你的输入会经过公网。这带来两个结果第一体验好坏取决于网络到服务端的链路质量第二在要求数据不出内网的场景里网页版就不合适。文档把它放在前面是为了让用户先解决“能用”的问题再谈“部署”。获取 DeepSeek 官方 API Key 的操作很直接访问官方平台地址注册登录后点“创建 API key”输入名称生成后那个值只显示一次需要立刻复制到本地保存。这一点文档里特别强调过我补充一个细节生成后如果忘了保存不能重新查看只能创建一个新的所以别在确认弹窗上随手就关。类似这种“一次性展示”的设计在云服务商那里很常见本质上是安全策略防止 Key 长期滞留在网页里。2.2 官方API接入远程模型带来的延迟与数据出口客户端接入的本质是拿第三方应用去对接 DeepSeek 的 HTTP API所以需要理解一个参数API 域名。用 Chatbox 时“模型提供方”选 DeepSeek填入 API 域名和 Key模型列表通常会自动刷新。我一般会先发一条“你好”测试观察返回值正常再开始正常使用。这种接入方式不是本地部署只是把公网上的大模型当作后端来调用。好处是即时可用不需要准备 GPU 或大内存服务器坏处是每一次请求都有网络往返延迟。文档虽然把它放在“客户端使用”一节但它的部署架构其实是“云端模型 本地客户端”和后面的本地部署形成鲜明对比。如果你只是个人写写文案、聊聊代码这种模式完全够用成本也最低。不过要注意一个容易被忽略的边界官方 API 是计费的而且每次请求都会把对话上下文送到远端。有些使用习惯会把长文档直接粘贴进对话框这在技术上是可行的但 token 消耗会快速上升。文档没有深入讲计费只说了配置方法但实际使用时这个成本账最好提前算清楚。2.3 本地部署与客户端接入内网可用但吃硬件资源文档真正重点讲的是这一条在银河麒麟高级服务器操作系统上通过 Ollama 跑 DeepSeek-R1再让桌面端的 Chatbox 通过 OLLAMA 协议接入。这里的模型推理发生在服务器本地浏览器和桌面的请求通过 11434 端口进入 Ollama 服务因此不依赖外部网络。要画清这条链路的边界Ollama 在这里是一个模型运行时与本地 API 服务它负责拉取模型权重、加载到内存或显存、接收 API 请求并完成推理。Chatbox 则把交互界面从命令行升级成桌面窗口。理论上任何能访问 11434 端口的客户端都可以连上不只是 Chatbox。很多人以为 Chatbox 是 DeepSeek 的唯一入口其实它只是一个通用前端OLLAMA、OpenAI、Anthropic 这类协议都支持。从技术选型来看本地部署的价值不只是省 API 费用。更关键的是数据不出内网对话内容只经过本地网络适合有数据隔离要求的项目。代价是硬件要求。1.5b 的小模型还能靠 CPU 硬扛更大的模型就要看 GPU 卡和显存了。2.4 选型对比与我的建议用法是否本地推理是否需要API Key是否依赖公网适用场景网页版否否是快速体验、零安装Chatbox 官方API否是是个人日常使用、低成本接入服务器本地部署 桌面客户端是否否内网、数据敏感场景VS Code Cline API否是是辅助编程想免部署这个表格是我根据文档四种场景总结的参数对比文档本身没有画成表但选择逻辑是清楚的。选择时别只盯着部署花哨先回答三个问题数据能不能出网机器有没有 GPU 或足够内存要的是对话界面还是代码补全答案清晰了方案自然就定了。3. 在银河麒麟高级服务器上部署DeepSeek-R1ollama安装全流程3.1 安装ollama官方脚本与离线tgz包两种方式文档提供了两种安装方式。第一种是执行官方一键脚本curl -fsSL https://ollama.com/install.sh | sh这个命令会把 Ollama 的二进制下载到 /usr/local/bin自动配置 systemd 服务。脚本本身做了发行版检测适合能访问官网的机器。但这里有个隐含前提服务器能连外网。对于内网隔离环境执行到一半会卡在下载超时上所以需要第二种方式。tar -C /usr/local -zxvf ollama-linux-amd64.tgz-C指定解压到 /usr/local 目录-z解 GNU zip 压缩-x执行解压-v显示过程-f指定文件。解压后 Ollama 的可执行文件通常会落在 /usr/local/bin/ollama。这里有一个容易被忽略的点tgz 包只包含二进制不会自动注册 systemd 服务所以后续需要手动启动或自定义服务文件。文档没有展开讲这一步实际部署中我是建议补一个服务文件的否则重启服务器后 Ollama 不会自动拉起。3.2 启动服务OLLAMA_HOST环境变量是远程接入的关键启动前先设置环境变量这一步决定后面桌面端能不能远程连上export OLLAMA_HOST0.0.0.0 export OLLAMA_ORIGINS*OLLAMA_HOST0.0.0.0 表示让 Ollama 监听所有网络接口而不是默认的 127.0.0.1。如果不设置只有本机可以访问客户端从另一台机器连过来会被拒绝。OLLAMA_ORIGINS* 则是放开跨域来源限制主要影响网页端或基于浏览器协议访问的场景。这两个变量是文档明确的参数我要说的是它们只在当前 shell 会话里生效如果通过 systemd 启动需要在服务文件或 /etc/environment 里持久化配置否则重启后就会回到只能本机访问的局面。设置完环境变量后启动服务ollama serve这个前台命令会阻塞终端日志直接打印在窗口里。启动成功后另开一个终端执行ollama --version可以确认版本。我一般还会用curl http://127.0.0.1:11434/api/tags快速验证 HTTP 服务返回 JSON 列表就说明进程活着。这个验证动作文档没写但它能在进入客户端配置之前先确认服务层是否正常。3.3 拉取并运行deepseek-r1模型1.5b还是更大的模型服务和基础工具都就绪后拉模型就一条命令ollama run deepseek-r1:1.5b这条命令会自动从模型仓库下载 deepseek-r1 的 1.5b 版本下载完直接进入交互式对话界面。第一次运行会有很长的下载进度条取决于网络条件。1.5b 是文档的主角因为它是参数量最小的版本之一对 CPU 和内存要求低适合一台普通服务器先验证部署链路。模型大小怎么选文档明确说“数字越大需求的配置越高”。我的经验是1.5b 主要试链路7b 大约需要 8GB 以上内存或 4-6GB 显存14b 需要更强的配置。选型的时候先看服务器 CPU 核数和内存再看有没有 GPU。文档后面附的桌面环境部署截图是用 1.5b 跑通的说明国产 CPU 的机器也能跟上。这里还要说明一点ollama run拉下来的是权重文件不是源码所以不存在编译问题。如果你在 ARM 机器上拉模型架构差异主要在 Ollama 二进制的兼容性上模型权重本身是跨架构的。这也就引出了后面要单独讲的 libstdc 问题。3.4 验证部署命令行对话与API健康检查进入交互界面后直接输入问题看返回是否正常。比如问“11等于几”正常会给出回答。如果命令卡住很久没反应优先看启动服务的终端日志常见原因是内存不足触发 OOM或者模型文件下载不完整。这时候不要反复重试对话先看日志才是有效动作。此外我一般会做一次 API 级别的验证因为桌面客户端接入用的是 HTTP 接口而不是 ollama 命令行协议curl http://127.0.0.1:11434/api/tags如果返回一个带有 models 字段的 JSON就说明 API 服务已经就绪。这个检查的价值在于它排除了命令行交互界面是否“正好能用”这个偶然因素直接从端口层面确认服务状态。到这里本地模型服务已经跑起来了但它只是一台服务器上的服务还没有图形界面。4. 桌面端接入本地模型Chatbox配置OLLAMA域名的完整步骤4.1 从软件商店安装AI客户端Chatbox、NextChat与Cherry Studio部署完成后只在服务器上敲命令体验并不好。文档推荐在桌面操作系统上安装 AI 客户端来获得更好的交互界面。打开银河麒麟软件商店搜索 Chatbox 会直接看到安装按钮。它是一款支持很多模型和 API 的客户端同时可以作为 OLLAMA 的前端。如果觉得 Chatbox 不合适商店里还有 NextChat、Cherry Studio我理解这些客户端都支持自定义 API 域名配置思路类似。安装完成先打开一次让软件创建默认配置目录再进入设置准备接入。这一步看似多余但很多软件在首次启动后才初始化配置文件跳过的话后面选模型时可能遇到异常。4.2 模型提供方选OLLAMAAPI域名与端口配置关键配置对话框在 Chatbox 设置里的“模型提供方”位置。文档里列的参数就三个模型提供方选择 OLLAMAAPI 域名改为部署好模型的服务器 IP端口默认 11434。我把操作拆成四步打开 Chatbox 设置在模型提供方下拉列表里选 OLLAMA。API 域名处填入 http://服务器IP:11434例如 http://192.168.1.10:11434。模型列表会自动识别出 deepseek-r1:1.5b选中它。保存后回到对话框先发一条消息验证。需要注意如果服务器和桌面端是同一台机器域名填 127.0.0.1 也能通但如果桌面端和服务器不在同一台就必须填服务器的内网 IP。文档强调“API域名修改为部署好DeepSeek的服务器IP”说明这个参数不能省。很多人首次配置失败都是因为服务器上 ollama serve 监听在 127.0.0.1客户端从另一台机器过来根本没有路由。解决思路就是前面章节提到的 OLLAMA_HOST0.0.0.0。4.3 校验模型识别与对话验证保存后模型下拉框一般会自动列出 deepseek-r1:1.5b。如果没有自动出现可以先确认桌面端能不能访问服务器接口curl http://服务器IP:11434/api/tags。如果 curl 都返回不了 JSON说明网络层不通如果 curl 通了但列表没出来再看客户端的地址填法。这种分层排查方式能快速定位问题。对话验证时不要一上来就丢复杂任务先发一条“你好”或“用一句话介绍你自己”。通过后就可以正常使用。文档附带的截图里桌面端对话返回正常说明这条链路已经打通。这时候整个架构就完成了服务器负责推理桌面端只当作一个远程交互窗口。4.4 内网环境下的网络检查命令如果客户端提示连接失败我的经验是先检查服务器进程再检查端口监听最后检查客户端地址。端口监听可以用ss -tlnp | grep 11434确认是否监听在 0.0.0.0 上。如果只看到 127.0.0.1 的监听说明 OLLAMA_HOST 设置没生效。这里补充一句很多情况下防火墙会拦截 11434 端口在银河麒麟上可以用firewall-cmd --add-port11434/tcp --permanent放行或者临时关闭防火墙。文档没有提到防火墙这条但它就是最常见的“客户端连不上”背后原因。5. 部署避坑实录从ARM架构依赖缺失到11434端口不通5.1 ARM架构提示GLIBCXX_3.4.25 not found的修复现象在 ARMaarch64架构的服务器系统上安装 ollama 后启动时报/usr/lib64/libstdc.so.6的错误提示 GLIBCXX_3.4.25 缺失。原因ollama 依赖的 libstdc 库版本高于系统自带版本。银河麒麟某些版本的系统自带 libstdc.so.6 只到 GLIBCXX_3.4.24Ollama 二进制要求 3.4.25两个版本不匹配。这类问题本质上是依赖库版本漂移在国产 Linux 发行版上从别处拷二进制回来时经常遇到。解决文档给了一条可落地的路径获取 libstdc.so.6.0.28放到 /usr/lib64 下然后调整软链接cp libstdc.so.6.0.28 /usr/lib64/ cd /usr/lib64/ mv libstdc.so.6 libstdc.so.6.bak ln -s libstdc.so.6.0.28 libstdc.so.6这里的逻辑是先备份原始软链接到 .bak再把新的 .so.6.0.28 软链接为 libstdc.so.6。这样依赖查找时能解析到新库。注意 mv 和 ln 这两步必须在同一个目录下执行否则链接名会不对。我个人的习惯是做完软链接后执行strings /usr/lib64/libstdc.so.6 | grep GLIBCXX_3.4.25验证新库是否包含这个符号。5.2 内网服务器拉不着github安装包怎么办现象在不能访问外网的内网服务器上执行官网安装脚本或从 GitHub 下载超时失败。原因脚本最终要访问公网源GitHub 在内网环境下往往不可达。文档也默认你要去 GitHub release 页面下载但这个动作在隔离网络里本来就是难点。解决准备一台能访问外网的工作机从 GitHub 下载 ollama-linux-amd64.tgz 到 U 盘或内网共享目录再拷贝到服务器上执行tar -C /usr/local -zxvf解压。这个是文档默认支持的离线安装方式。常见的做法是把 tgz 包和 libstdc.so.6.0.28 放在同一个目录一次性拷进去避免来回传文件。另一点如果内网有 HTTP 代理也可以给 curl 设置代理变量但多数隔离环境连代理都没有离线包最实际。5.3 客户端连不上服务器先查IP、别急着改模型现象Chatbox 配置了 OLLAMA 和 API 域名但发送消息一直转圈或提示连接超时。原因大多数情况不是模型的问题而是网络层没通。比如服务器和桌面端不在同一网段端口未放行或 OLLAMA_HOST 没有绑定 0.0.0.0。解决按顺序排查服务器端执行ollama serve确认进程在跑监听检查ss -tlnp | grep 11434看是不是 0.0.0.0:11434桌面端执行curl http://服务器IP:11434/api/tags测试连通性最后再回客户端刷新模型列表。不要一上来就重新拉模型那是最后一步才做的事。5.4 模型加载慢CPU占满但无明显回复现象1.5b 模型对话时每次都要等很长时间CPU 使用率持续 100%但输出迟迟不来。原因没有 GPU 时Ollama 完全靠 CPU 推理1.5b 在普通服务器上每次生成一个 token 的时间也长第一次加载权重也需要时间。这属于硬件性能的物理限制不是玄学。解决先把模型调小到 1.5b 验证链路如果只能 CPU 推理尽量保证内存足够避免系统用 swap。还可以在请求中设置num_ctx参数降低上下文窗口减少每轮计算量。更大幅度的提升要靠 GPU 卡但那是硬件话题文档只解决部署问题不解决算力焦虑。5.5 重启服务器后Ollama不再自动运行现象服务器重启后客户端连接失败检查发现 ollama 进程没有起来。原因用 tar 包安装二进制放在 /usr/local/bin但没有 systemd 服务文件系统启动时不会自动加载。解决手动创建一个 Ollama service 文件让系统管理启动进程。常见做法是在 /etc/systemd/system/ollama.service 里配置 ExecStart 指向 /usr/local/bin/ollama serve并包含 Environment 行设置 OLLAMA_HOST。创建后执行systemctl daemon-reload再systemctl enable --now ollama以后重启就不用手动敲命令了。这一步是文档没有直接写的补全但对生产环境几乎必须。6. 进阶在VS Code里用Cline集成DeepSeek做辅助编程6.1 安装Cline插件与API Key配置本地模型跑通后还有一个对开发者特别有用的场景用 VS Code 集成 DeepSeek 做辅助编程。文档的步骤是从软件商店安装 Visual Studio Code然后打开扩展市场搜索 Cline 插件并安装。安装完成打开 Cline 插件API Provider 选择 DeepSeek填上之前保存的 API Key点击“Lets go”按钮。这里用到的还是官方 API不是本地 Ollama 服务所以需要能够访问外网并且 API Key 会产生费用。如果你想在完全内网环境做辅助编程也可以让 Cline 接入 OLLAMA但文档没有展开讲这个。6.2 用一段真实生成任务验证链路我一般会用一段简单的任务来验证比如在对话框中输入“写一个python函数读取当前目录下所有csv文件并合并”。插件会先生成代码再调用 DeepSeek API 解析需求。这个过程看起来是“自动写代码”实际上是把你的自然语言需求发给远程模型模型返回代码片段。文档里展示了生成后还能直接执行证明链路是通的可用的。验证时注意看插件面板的日志输出里面会显示完整的请求和返回状态一旦失败能立刻定位是 Key 问题还是网络问题。6.3 我的使用习惯与收尾从那以后我每次配置完任何 AI 客户端或 IDE 插件都会强制走一遍最小验证本地开一个空文档发一条“你好”或一句简单代码需求确认返回值正常再进入正式工作流。这个习惯救过我很多次尤其是在换 API Key、换模型、换网络环境之后。希望帮到你。本文还有配套的精品资源点击获取