一、什么情况下适合把大模型部署在自己电脑上把大模型部署在自己的电脑上有很多好处但我要先泼一盆冷水。如果你之前没用过AI产品或者平时用AI也不多不推荐搞本地部署。有更简单的方法可以让你用上AI。想用DeepSeek可以直接在手机的软件商城下载DeepSeek的手机APP。或者用浏览器搜索DeepSeek的网页版。这样是最简单的并且背后的AI都是一样的。本地部署适合以下情况① 电脑配置较高有独立显卡。② 有私密的数据需要处理担心泄密。③需要和本地工作流结合处理高频任务或复杂任务。④ 日常使用量大调用API需要收费本地部署能省钱。⑤ 想要在开源模型基础上做个性化的定制版本。这么说有点复杂我用DeepSeek总结了下APP或网页与本地部署的使用场景。二、大模型本地部署基本步骤第一步安装ollama本地部署首先要安装ollama你可以把它理解为一个装AI的盒子把AI装在盒子里方便管理。1. 首先在浏览器搜索ollama会出现ollama官网点击进入。2. 进入官网后点击中间的Download。3. 根据自己的电脑类型选择不同版本。苹果电脑选最左边蓝色框Windows系统选最右边红色框之后点击下载绿色框。4. 下载后点击安装。如果桌面出现了ollama图标说明软件安装成功。图标就是下图的羊驼。特别说明最好安装在C盘安装在其它盘需要重新配置环境变量。第二步选择要安装的模型5. 还是在刚刚的ollama官网点击右上角红框的位置。6. 在弹出的界面点击红框的“Models”选项7. 点击选择deepseek-r18. 选择不同参数的模型这里的数字越大参数越多性能越强1.5b代表模型具备15亿参数。我的电脑16G显存运行14b参数模型时需要大约11.5G显存。如果是1.5b版本2G以下的显存就可以运行甚至不需要独立显卡核显就可以。如果是32b参数的就需要32G显存啦可以根据自己的电脑性能选择。下面选择1.5b参数做示范。9. 复制命令选择1.5b参数后复制红框中的命令“ollama run deepseek-r1:1.5b”。第三步安装模型10. 打开命令行同时按下键盘上的Win和R键弹出如下窗口。在弹出的窗口中输入cmd点击确定打开命令行就像下面这样。11. 输入下载命令在打开的命令行里输入上面复制的命令“ollama run deepseek-r1:1.5b”。点击键盘上的“Enter”键模型会自动下载。12. 与模型对话下载成功后就可以与模型对话啦。此时大模型安装在你的电脑上就算断网也可以继续用也不用担心数据泄露。第四步后续运行模型这里还有一个问题当你关闭电脑后下次再打开ollama。会发现点击ollama的图标电脑没反应。因为你点击图标只是启动了ollama想要和大模型聊天还是需要打开命令行。13. 继续通过命令行和大模型聊天同时按下键盘上的Win和R键在弹出的窗口里输入cmd点击确定打开命令行。在命令行界面输入刚刚的命令“ollama run deepseek-r1:1.5b”。因为你之前已经下载过这次无需下载可以直接和模型聊天。三、安装Open-WebUI可以不看注意前面的步骤已经完整了。Open-WebUI只是让交互界面更好看可以不必安装。且建议不熟悉电脑的朋友先不要安装Open-WebUI。Open-WebUI有比较多的依赖项安装过程中容易出问题。如果安装半天没完成容易打击到学习AI的热情这也是为什么我做的视频里没有讲Open-WebUI安装步骤的原因。如果执意要安装则安装步骤如下14. 首先安装docker可以用docker来管理操作系统界面比直接安装Open-WebUI更方便。在浏览器输入docker并搜索点击进入官网。15. 根据你的电脑系统下载docker桌面版并安装运行。安装完成后需要重新启动电脑才能正常使用docker。重新启动后如果你的桌面上出现了docker的图标就表示安装成功了。16. 安装Open-WebUI浏览器搜索Open-WebUI进入官网并复制红框中的命令。按照上面提到的步骤打开命令行输入复制的命令等待安装完成。17. 运行Open-WebUI双击docker的桌面图标打开软件。点击红框端口即可运行Open-WebUI。初次访问时需要注册一个账号。这些信息会储存在你的电脑里。18. 开始对话在界面左上角选择你的模型就可以开始对话啦。Open-WebUI这部分的安装过程比较简略如果出现报错需要具备通过浏览器搜索问题原因并修复的能力。确实不建议不熟悉电脑的新手尝试。四、其它问题如何查看我电脑上装了多少个模型打开命令行输入ollama list红框里就是对应模型。如何删除模型在命令行输入ollama rm 模型名称例如ollama rm deepseek-r1:1.5b就会自动删除对应模型。ollama还有其它功能吗命令行输入ollama展示出ollama的其它功能。比如输入“ollama stop”是停止模型运行“run 模型名”是运行对应模型。零基础如何学习AI大模型领取方式在文末为什么要学习大模型学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术如自然语言处理和图像识别正在推动着人工智能的新发展阶段。通过学习大模型课程可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术从而提升自己在数据处理、分析和决策制定方面的能力。此外大模型技术在多个行业中的应用日益增加掌握这一技术将有助于提高就业竞争力并为未来的创新创业提供坚实的基础。大模型典型应用场景①AI教育智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据提供量身定制的学习方案提高学习效果。②AI医疗智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像辅助医生进行早期诊断同时根据患者数据制定个性化治疗方案。③AI金融智能投顾和风险管理系统帮助投资者做出更明智的决策并实时监控金融市场识别潜在风险。④AI制造智能制造和自动化工厂提高了生产效率和质量。通过AI技术工厂可以实现设备预测性维护减少停机时间。…这些案例表明学习大模型课程不仅能够提升个人技能还能为企业带来实际效益推动行业创新发展。一、 AI大模型学习路线图整个学习分为7个阶段二、AI大模型实战案例涵盖AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者皆可用。三、视频和书籍PDF合集从入门到进阶这里都有跟着老师学习事半功倍。四、LLM面试题五、AI产品经理面试题六、deepseek部署包技巧大全领取方式我会放在下面希望领取了的朋友不要忘了下方名片放心添加