Llamafactory的使用(4):Windows本地部署

📅 2026/7/4 4:56:42
Llamafactory的使用(4):Windows本地部署
其实和在云端使用一样首先我们需要进行的还是那四个步骤git clone --depth 1 https://github.com/hiyouga/LlamaFactory.git cd LlamaFactory pip install -e . pip install -r requirements/metrics.txt但是还是有不同的首先我们需要穿件一个空文件夹在这个文件夹里面构建python虚拟环境。然后再文件管理器中找到这个文件夹直接在搜索栏中输入cmd回车其实这是一个从特定文件夹中打开命令行的方法这样就不用cd去跳转了但是如果想用cd那也可以直接winrcmd再用上cd语句来到这个部署了python3.11的虚拟环境文件夹下然后输入git clone --depth 1 https://github.com/hiyouga/LlamaFactory.git这一步是从github上克隆llamafactory所以是需要加速器或者打开vpn的。然后在cd Llamafactory这个文件夹下然后进行依赖设置也就是pip install -e .和pip install -r requirements/metrics.txt注意这里如果报错了可能是是网络的问题就把vpn关掉或者是加上镜像地址就好了。下载完成后输入下面命令这个是调出llamafactory的用户界面llamafactory-cli webui然后就会跳转到这个界面上面是我训练的一个模型的设置的参数1.模型的下载模型名称可以进行选择但是如果不是本地的就会自动下载模型的下载源就是他要下载的平台这里我选择的是modelscope也就是魔搭社区。下载的路径一般都是默认到c盘中这里我们可以修改。修改之后我们需要重新打开Llamafactory否则还是会下到c盘中这样之后我们进行训练的时候模型就自动下载到d盘了当然了一般我们的电脑都是无法曲微调很大的模型所以这里我下载的是0.6B的模型。2.参数设置数据集的选择我们从文件管理器中打开Llamafactory这个文件夹然后复制data的文件地址在这里这样数据集他就能自动扫描data文件夹供我们选择了。其他的参数都可以根据自己的电脑情况自行修改。然后点击开始就行了3.注意这里需要说的是因为我在训练中出现了这样的情况是说线程过多无法正常训练这个也是有解决办法的。我们可以从文件管理器中打开Llamafactory/src/llamafactory/webui打开runner文件打开文件之后ctrlf输入preprocessing_num_worker然后就能直接定位到这里把16改为1文件修改之后我们也需要重新打开一下Llamafactory界面。然后我们就能看到有损失函数的图像还有训练的进度条。