网站建设在哪里_果冻影视传媒有限公司_微信平台推广方法_谷歌优化方法

目录

deepseek一键部署脚本说明

0 必要前提

1 使用方法

1.1 使用默认安装配置

1.1 .1 使用其它ds模型

1.2 使用自定义安装

2 附录：deepseek模型手动下载

3 脚本下载地址

---

deepseek一键部署脚本说明

0 必要前提

• linux环境

• python>=3.10

1 使用方法

1.1 使用默认安装配置

不建议：这种方法安装包自带了8b的模型，整个包有25G。

1. 下载DeepSeek-R1-one.tar.gz

2. 将DeepSeek-R1-one.tar.gz压缩包解压到/data路径下，包含了deepseek-r1、 deploy.sh、使用说明.pdf

   • DeepSeek-R1： DeepSeek-R1的8b模型

   • deploy.sh：安装脚本

   • 使用说明.pdf: deploy.sh的使用说明

3. 压缩包自带了deepseek-r1的8b模型，确保模型所在路径为/data/DeepSeek-R1

4. 执行deploy脚本：bash deploy.sh

等待安装完成：

后端服务api地址 ： http//:ip:24444；可在浏览器页面打开，查看接口文档

自带可视化页面：http//:ip:6008；可在浏览器页面打开，开始与ds对话。

1.1 .1 使用其它ds模型

确保模型路径命名为/data/DeepSeek-R1

其它同1.1

1.2 使用自定义安装

脚本下载地址

可自定义后端端口号、前端端口号、模型路径、模型名称、显卡数量

1. 可直接下载deploy.sh脚本文件

2. 执行deploy脚本：./deploy.sh --custom

3. 根据提示配置后端端口号、前端端口号、模型路径、模型名称

等待安装完成：

后端服务api地址 ： http//:ip:自定义端口；可在浏览器页面打开，查看接口文档

自带可视化页面：http//:ip:自定义端口；可在浏览器页面打开，开始与ds对话。

2 附录：deepseek模型手动下载

• modelscope

• huggingface

3 脚本下载地址

• 脚本下载地址

• 相关渠道联系博主

4 其它

支持lmdeploy部署的，都可以使用该脚本