工作汇报范文_最新全国疫情数据统计表_新闻联播今日新闻_宣传推广方案模板

时间:2025/7/28 18:25:14来源：https://blog.csdn.net/qq_42547733/article/details/145943401 浏览次数:0次

本地部署大模型

Ollama是一个轻量级的大型语言模型（LLM）软件引擎，用于快速部署和运行大型语言模型。它负责模型的加载和服务器端的推理，确保模型能够快速响应请求。

在本地部署DeepSeek时，需要安装和配置Ollama，因为它负责以下任务：
‌模型文件的解析和加载‌：Ollama负责解析和加载DeepSeek所需的模型文件。
‌本地服务器端的推理逻辑‌：Ollama处理服务器端的推理逻辑，确保模型能够快速响应请求。

前提：需要外网哦

地址：https://ollama.com/
在这里插入图片描述

点击install，等待安装
在这里插入图片描述

安装完之后，打开cmd窗口，验证是否安装成功

ollama -v

在这里插入图片描述

下载deepseek的1.5b的大模型，太大的本地跑不了

ollama pull deepseek-r1:1.5b

在这里插入图片描述

下载完之后可以运行deepseek模型

ollama run deepseek-r1:1.5b

可以问他问题
在这里插入图片描述

关键字：工作汇报范文_最新全国疫情数据统计表_新闻联播今日新闻_宣传推广方案模板

本网仅为发布的内容提供存储空间，不对发表、转载的内容提供任何形式的保证。凡本网注明“来源：XXX网络”的作品，均转载自其它媒体，著作权归作者所有，商业转载请联系作者获得授权，非商业转载请注明出处。

我们尊重并感谢每一位作者，均已注明文章来源和作者。如因作品内容、版权或其它问题，请及时与我们联系，联系邮箱：809451989@qq.com，投稿邮箱：809451989@qq.com

责任编辑：