DeepSeek-R1蒸馏小模型,用Ollama在本地运行跑起来

📅 2026/8/27 14:21:14
DeepSeek-R1蒸馏小模型,用Ollama在本地运行跑起来
前言DeepSeek-R1作为第一代推理模型在数学、代码和推理任务上表现优异与OpenAI-o1模型不相上下。将此类模型部署到本地可为AI应用带来更强隐私保护、定制化和可控性。今天指导大家如何使用Ollama——一款AI模型管理和运行工具——在本地计算机上部署并运行DeepSeek-R1。2 Ollama运行助手对于许多用户来说如何在普通笔记本电脑上运行强大的AI模型是个难题。Ollama的出现正是为了解决这一问题。Ollama是专为本地运行大语言模型设计的工具操作简单即便没有深厚的技术背景也能轻松上手。3 开始操作环境设置步骤1安装Ollama首先需要在你的机器上安装并运行Ollama。操作方法如下前往Ollama官网ollama.com下载与你操作系统匹配的版本。步骤2验证Ollama安装打开终端或命令提示符输入~ollama--version ollama versionis0.5.7~ollama Usage:ollama[flags]ollama[command]Available Commands:serve Start ollama create Create a modelfroma Modelfile show Show informationfora model run Run a model stop Stop a running model pull Pull a modelfroma registry push Push a model to a registrylistList models ps List running models cp Copy a model rm Remove a modelhelpHelp aboutanycommand Flags:-h,--helphelpforollama-v,--version Show version information Useollama [command] --helpformore information about a command.步骤3下载 DeepSeek-R1通过 Ollama 下载 DeepSeek-R1 非常方便运行DeepSeek-R1-Distill-Qwen-7B在终端中运行这个命令即可~ollama run deepseek-r1~ollama run deepseek-r1:7b pulling manifest pulling 96c415656d37...88%▕█████████████████████████████████████████████████ ▏4.1GB/4.7GB6.0MB/s 1m33s根据你的网络速度此过程可能耗时请耐心等待。步骤4运行DeepSeek R1下载完成后就可以启动 DeepSeek-R1。使用这个命令~ollama run deepseek-r1~ollama run deepseek-r1:14b/? Available Commands:/setSet session variables/show Show model information/loadmodelLoad a sessionormodel/savemodelSave your current session/clear Clear session context/bye Exit/?,/helpHelpfora command/? shortcuts Helpforkeyboard shortcuts Use to begin a multi-line message.Send a message(/?forhelp)如此便成功在本地运行该模型4 体验DeepSeek-R1功能完成部署后接下来就是探索DeepSeek-R1的强大功能。以下是几个典型应用场景送礼功能魔法棒指令/你是一个资深的熟悉电商业务技术系统设计的架构师请你在一个成熟的电商平台上实现一个送礼功能即送礼用户下单购买一个商品时不需要填写地址送礼用户完成支付后把这个订单分享给另外一个人比如他的朋友由他的朋友来填写地址然后这个订单才算完成并开始发货履约。5 常见问题排查即便使用像 Ollama 这样用户友好的工具在使用时仍可能遇到一些小问题以下是一些常见问题的解决方法问题Ollama无法找到DeepSeek-R1如果你收到Ollama找不到DeepSeek-R1的错误提示可尝试运行ollama list命令。~ollamalistNAME ID SIZE MODIFIED deepseek-r1:14b ea35dfe181829.0GB5days ago gemma2:9b ff02c3702f325.4GB9days ago gemma2:2b 8ccf136fdd521.6GB9days ago deepseek-r1:1.5b a42b25d8c10a1.1GB9days ago deepseek-r1:latest 0a8c266910234.7GB10days ago ggml-vocab-qwen2:latest 71dd1769087f5.9MB11days ago若列表中未显示DeepSeek-R1说明模型未正确下载。此时可重新拉取模型~ollama pull deepseek-r16 本地AI的未来DeepSeek-R1带来的无限可能通过在本地运行DeepSeek-R1我们可以深入思考其更深远的意义。将如此强大的AI模型部署到本地不仅是技术上的突破更对未来AI发展具有深远的展望价值。此模式把先进语言模型的强大能力直接赋予用户为实验和定制化带来了更多可能性同时也更好地保护了隐私。以下是一些潜在的应用场景开发者可为特定行业打造高度专业化的AI助手研究人员可在本地环境中对AI模型进行实验无需依赖云服务注重隐私的用户可在不共享数据的情况下享受先进AI带来的便利。以上列举应用场景只是冰山一角DeepSeek-R1的潜力远不止于此其拥有着无限广阔的发展前景有望为AI领域带来更多创新和变革。7 使用 Apidog 进行 API 测试通过Ollama在本地运行DeepSeek-R1你可以在自己的设备上直接利用强大的AI能力。按照本指南的步骤操作即可完成模型的部署、运行并将其轻松集成到你的项目中完全掌控数据和运行环境。最后的最后感谢你们的阅读和喜欢作为一位在一线互联网行业奋斗多年的老兵我深知在这个瞬息万变的技术领域中持续学习和进步的重要性。为了帮助更多热爱技术、渴望成长的朋友我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶也是我在行业一线实战经验的总结。这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习相信它们一定能为你提供实质性的帮助。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】DeepSeek全套安装部署资料大模型知识脑图为了成为更好的 AI大模型 开发者这里为大家提供了总的路线图。它的用处就在于你可以按照上面的知识点去找对应的学习资源保证自己学得较为全面。经典书籍阅读阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。实战案例光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】