目录
缘起
为什么需要本地部署？
硬件要求建议：
下载Ollama
安装准备
选择对应的平台下载
下载完成点击安装 install
安装完成后验证
win + r打开运行窗口
输入cmd打开命令行窗口
输入ollama，看到有这些输出就代表安装ollama成功啦
下载模型deepseek
DeepSeek
选择对应的模型【对应电脑的运行内存】
查看电脑运行内存
在屏幕最下方任务栏处点击右键，打开任务管理器
选择性能【当前内存为27.7G】
对应步骤2，选择模型，我这里以14b演示，点击复制
在命令行中输入
等待下载完成
成功啦！
体验一下吧【CPU内存拉满哈哈哈】
下载chatbox
官网
安装
打开chatbox
左下角设置，选择ollama
选择模型
试试吧【卡爆了兄弟们】
开始使用吧
疯言峰语💌
做了一些人生的规划
还有一点感悟想分享一下🍕
缘起
最近DeepSeek可是火出了圈，推理像是解剖了我一样😜
为什么需要本地部署？
-
官网服务高峰期响应延迟（实测>15秒/响应）
-
隐私保护需求（医疗/财务等敏感对话场景）
-
定制化开发需求（结合本地知识库微调）
硬件要求建议：
| 模型版本 | 最低内存 | 推荐配置 | 推理速度（CPU） |
|---|---|---|---|
| 7B | 8GB | i5+16GB | 5-7 tokens/s |
| 14B | 16GB | i7+32GB | 2-3 tokens/s |
| 34B | 64GB | 工作站+GPU | 需CUDA加速 |
💡 实测数据：i7-12700H+32GB DDR5运行14B模型，单轮对话响应时间约45秒
那我们搭建到本地吧💮
flechazo
https://www.zhihu.com/people/jiu_sheng废话不多说✌️，直接开始吧
下载Ollama
安装准备
官网下载
选择对应的平台下载
下载完成点击安装 install
安装完成后验证
win + r打开运行窗口
输入cmd打开命令行窗口
输入ollama，看到有这些输出就代表安装ollama成功啦
下载模型deepseek
DeepSeek
下载链接
选择对应的模型【对应电脑的运行内存】
查看电脑运行内存
在屏幕最下方任务栏处点击右键，打开任务管理器
选择性能【当前内存为27.7G】
对应步骤2，选择模型，我这里以14b演示，点击复制
在命令行中输入
ollama run deepseek-r1:14
等待下载完成
成功啦！
体验一下吧【CPU内存拉满哈哈哈】
下载chatbox
官网
下载链接
安装
打开chatbox
左下角设置，选择ollama
选择模型
试试吧【卡爆了兄弟们】
开始使用吧
开森😎
疯言峰语💌
最近自己也做了一些调整
做了一些人生的规划
当然啦！终极理想是躺平啦哈哈哈哈🤩
第一阶段：食物自主
第二阶段：能源自由
第三阶段：空中机动
第四阶段：机甲附体
第五阶段：本地AI中枢
不知道自己能不能坚持下去呢
加油！
小柴✨
还有一点感悟想分享一下🍕
人们总是对未知的事情充满期待，对确定的事情嗤之以鼻。
股市：追涨杀跌
爱情：追求新鲜
金钱：一夜暴富
能力：眼高手低
工作：天天画饼
哈哈哈哈🤯
意思是说人们总是想不劳而获总是看到那些暴富的少数人🍔
这里我举个例子：当前财富：1 | 持之以恒 24 * + | 一夜暴富 13 * + / 7 * -
| 第几年 | 持之以恒（2%/年） | 一夜暴富(+-10%/年) |
|---|---|---|
| 1 | 1 | 1 |
| 2 | 1.02 | 1.1(+) |
| 3 | 1.040 | 1.21(+) |
| 4 | 1.061 | 1.089(-) |
| 5 | 1.082 | 0.980(-) |
| 6 | 1.104 | 1.078(+) |
| 7 | 1.126 | 1.185(+) |
| 8 | 1.148 | 1.304(+) |
| 9 | 1.171 | 1.174(-) |
| 10 | 1.195 | 1.056(-) |
| 11 | 1.218 | 1.152(+) |
| 12 | 1.243 | 1.278(+) |
| 13 | 1.268 | 1.406(+) |
| 14 | 1.293 | 1.265(-) |
| 15 | 1.319 | 1.139(-) |
| 16 | 1.345 | 1.253(+) |
| 17 | 1.372 | 1.378(+) |
| 18 | 1.400 | 1.516(+) |
| 19 | 1.428 | 1.667(+) |
| 20 | 1.456 | 1.834(+) |
| 21 | 1.485 | 1.652(-) |
| 22 | 1.515 | 1.486(-) |
| 23 | 1.545 | 1.337(-) |
| 24 | 1.576 | 1.203(-) |
所以有必要投机取巧吗？当然不排除投机取巧致富的也大有人在。
那为什么我们不能分仓呢？8成稳定2成投机
坚持🍳
持之以恒
稳定！多好！
睡了
晚安
🛏️
