文章目录简介一、Ollama Windows 离线自定义安装不装C盘1.1 安装包下载1.2 管理员终端执行自定义安装命令1.3 安装参数详细解释二、修改模型存储路径解决模型缓存塞满C盘2.1 方案1系统环境变量永久生效推荐2.2 方案2Ollama客户端图形界面快速修改三、官方模型仓库查看与模型下载基础命令3.1 官方模型库地址3.2 终端常用核心命令四、Modelfile 自定义专属模型分场景模板4.1 目录结构规范4.2 Modelfile使用流程4.3 Modelfile简易模板示例Modelfile_coder4.4 Modelfile 常用 PARAMETER 参数补充说明五、局域网共享手机/其他电脑访问本地Ollama模型5.1 方案一Conda虚拟环境部署Open WebUI推荐首选5.1.1 创建独立Conda虚拟环境5.1.2 激活环境并安装Open WebUI5.1.3 一体化自动启动批处理脚本完善增强版5.1.4 脚本使用说明5.2 方案二Python原生venv虚拟环境部署Open WebUI备选5.2.1 创建专用虚拟环境5.2.2 虚拟环境内安装Open WebUI解决国内镜像SSL报错5.2.3 venv一键启动批处理脚本5.3. 局域网设备通用使用方法六、Windows防火墙放行端口局域网访问必备补充步骤七、补充常见问题排查简介本文针对Windows平台完整讲解Ollama离线大模型部署全流程解决默认安装C盘、模型缓存占系统盘、多设备局域网无法访问本地模型三大痛点。包含自定义安装目录、环境变量配置模型存储路径、Modelfile自定义模型构建、局域网手机/其他电脑互通全套实操图文配套新手可一步到位落地本地大模型。Conda虚拟环境部署Open WebUI完美隔离全局Python、系统原有Conda环境依赖解决包冲突、版本兼容问题配套自动磁盘识别、自定义数据目录、自动拉起Ollama一体化启动批处理脚本。适用人群本地AI爱好者、程序开发、运维、文案创作者系统版本Win10 / Win11WebUI环境推荐优先级Conda虚拟环境 Python原生venv虚拟环境一、Ollama Windows 离线自定义安装不装C盘1.1 安装包下载官方Windows安装程序地址https://ollama.com/download/windows将安装包下载到非C盘目录示例路径E:\InstallPackage\OllamaSetup.exe1.2 管理员终端执行自定义安装命令右键开始菜单选择Windows PowerShell(管理员)/终端(管理员)cd切换到安装包存放目录示例cd E:\InstallPackage执行静默安装指令.\OllamaSetup.exe/install/norestart/DIRE:\LocalAI\ollama\ollama1.3 安装参数详细解释参数作用说明/install执行安装流程/norestart安装完成后不自动重启电脑/DIR路径指定Ollama主程序安装目录替换引号内路径可自定义任意磁盘彻底规避C盘占用执行完毕无报错即代表主程序安装到自定义路径后续所有Ollama程序文件都存放在E:\LocalAI\ollama\ollama。二、修改模型存储路径解决模型缓存塞满C盘两种方案任选其一推荐环境变量永久配置软件内设置为辅。2.1 方案1系统环境变量永久生效推荐快捷键Win R输入sysdm.cpl回车打开系统属性面板切换顶部【高级】选项卡 → 右下角【环境变量】在上方用户变量区域点击【新建】变量名OLLAMA_MODELS变量值提前手动新建好的空文件夹示例E:\LocalAI\ollama\ollama-models全部窗口点击【确定】保存重启电脑配置生效。生效后后续ollama pull拉取的所有大模型权重文件、自定义模型缓存全部存入自定义目录不再占用C盘存储空间。2.2 方案2Ollama客户端图形界面快速修改打开Ollama桌面客户端点击右上角设置Settings找到Model location选项点击右侧Browse选择提前创建好的模型文件夹确认保存重启Ollama软件即可切换模型存储位置三、官方模型仓库查看与模型下载基础命令3.1 官方模型库地址所有开源可用模型合集https://ollama.com/library支持Llama3.2、Qwen、GLM、CodeLlama、Llama3、Mistral、Phi等主流开源大模型支持查看参数大小、量化版本、运行硬件需求。3.2 终端常用核心命令打开PowerShell/CMD执行以下操作# 1. 拉取下载指定模型示例7B量化版Llama3.2ollama pull llama3.2# 2. 查看本地已下载全部模型ollama list# 3. 运行对话模型直接开启交互ollama run llama3.2# 4. 删除本地无用模型释放磁盘空间ollamarmllama3.2# 5. 查看Ollama后台运行状态ollamaps# 6. 停止Ollama后台服务ollama stop四、Modelfile 自定义专属模型分场景模板在模型存储根目录E:\LocalAI\ollama\ollama-models下创建三类场景配置文件实现代码、文案、运维专用定制模型,可以新建txt文件然后删除后缀在记事本中编辑。4.1 目录结构规范ollama-models/ ├─ Modelfile_coder # 代码开发专用模型配置 ├─ Modelfile_writer # 文案写作/软文生成模型配置 └─ Modelfile_shell # Linux/Windows运维脚本模型配置4.2 Modelfile使用流程编写对应Modelfile文件写入基础模型系统提示词终端执行构建命令生成自定义模型别名# 构建代码专属模型命名 my-coderollama create my-coder-f Modelfile_coder# 构建文案模型 my-writerollama create my-writer# 构建运维脚本模型 my-shellollama create my-shell-f Modelfile_shell使用自定义模型对话ollama run my-coder4.3 Modelfile简易模板示例Modelfile_coder# FROM指定依赖的基础大模型必须是本地已pull下载完成的模型名称版本标签 FROM qwen2.5vl:3b-q4_K_M # SYSTEM全局固定系统提示词每次对话自动前置注入约束模型身份、输出格式、回答风格 SYSTEM 你是专业全栈开发工程师精通Python/C/C/前端/嵌入式代码规范严谨注释完整提问仅输出可直接运行代码附带详细解释。 # PARAMETER 自定义模型运行参数 # num_ctx上下文窗口长度数值越大可记忆更长对话历史65536代表支持超长上下文 PARAMETER num_ctx 655364.4 Modelfile 常用 PARAMETER 参数补充说明PARAMETER temperature 0.1温度参数控制生成随机性。数值越低输出越严谨、逻辑固定代码场景推荐00.3数值越高脑洞越大、创意更强文案写作可用0.71。PARAMETER top_p 0.3核心采样阈值过滤低概率词汇搭配低temperature可减少模型胡编乱造代码场景适配。PARAMETER stop 自定义停止符模型识别到指定字符会自动终止输出可用于截断多余无关内容。PARAMETER num_gpu -1GPU加载层数-1代表全部层交给显卡加速推理无独立显卡则删除该参数。PARAMETER max_tokens 4096单次输出最大token数量限制单次回答篇幅避免超长无意义回复。PARAMETER repeat_penalty 1.1重复惩罚系数抑制模型重复输出相同句子、代码片段。PARAMETER seed 42固定随机种子相同提问每次返回完全一致的回答调试代码时非常实用。五、局域网共享手机/其他电脑访问本地Ollama模型Ollama仅提供底层API接口无可视化聊天页面直接在全局Python环境安装WebUI会产生大量依赖版本冲突提供两套隔离环境部署方案优先使用Conda虚拟环境方案其次为原生Python venv方案。5.1 方案一Conda虚拟环境部署Open WebUI推荐首选优势独立隔离完全不污染系统Python、不干扰电脑其他Conda项目依赖版本互不冲突数据目录自动分配到大容量磁盘。前置条件电脑已安装Anaconda / Miniconda并配置conda到系统环境变量。5.1.1 创建独立Conda虚拟环境以管理员身份打开Anaconda Prompt / CMD终端执行# 创建专属环境锁定Python3.11稳定版本仅使用官方源避免国内源依赖错乱conda create-nopen-webuipython3.11--override-channels-cdefaults出现确认提示输入y回车等待环境创建完成。5.1.2 激活环境并安装Open WebUI# 激活隔离环境conda activate open-webui# 官方源安装解决SSL握手失败、连接超时问题pip3installopen-webui-ihttps://pypi.org/simple --trusted-host pypi.org --trusted-host files.pythonhosted.org国内备用安装命令官方源访问缓慢时使用pip3installopen-webui-ihttps://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com5.1.3 一体化自动启动批处理脚本完善增强版特性自动优先识别E/D/C盘自动创建大容量磁盘WebUI数据目录不占用C盘自动检测WLAN无线局域网IP打印手机/局域网访问地址自动检测Ollama进程未启动则后台静默拉起全局局域网服务自动激活conda环境自定义WebUI数据存储路径端口8080中文不乱码、错误提示完善、增加超时等待、异常捕获关闭窗口自动停止WebUI服务无后台残留进程。新建文本文档粘贴代码保存修改后缀为Conda一键启动AI面板.batecho off chcp 936 nul setlocal enabledelayedexpansion cls echo echo Open-WebUI 启动脚本 - 自动数据目录适配 echo echo. :: 定义目录名称后缀 set DATA_FOLDERLocalAI\openwebui-data set DATA_DIR if exist E:\ ( set DATA_DIRE:\%DATA_FOLDER% ) else if exist D:\ ( set DATA_DIRD:\%DATA_FOLDER% ) else ( set DATA_DIRC:\%DATA_FOLDER% ) if not exist !DATA_DIR! ( echo [提示] 目标目录不存在正在创建!DATA_DIR! md !DATA_DIR! echo [完成] 目录创建成功 ) else ( echo [信息] 检测到已有数据目录!DATA_DIR! ) echo. echo echo 启动 Open-WebUI 服务数据目录!DATA_DIR! echo echo. :: 用 netsh 直接提取 WLAN IP set WLAN_IP for /f tokens3 delims %%a in (netsh interface ip show addresses WLAN ^| findstr IP Address) do set WLAN_IP%%a if not defined WLAN_IP ( for /f tokens2 delims: %%a in (ipconfig ^| findstr /c:无线局域网适配器 WLAN /c:IPv4 地址) do ( set raw%%a for /f tokens* delims %%b in (!raw!) do set WLAN_IP%%b ) ) :: 输出访问地址 echo [局域网访问地址信息] if defined WLAN_IP ( echo WiFi无线局域网访问地址!WLAN_IP!:8080 ) else ( echo 警告未识别到WLAN无线IPv4仅本机可访问 ) echo 本机本地访问地址127.0.0.1:8080 echo echo. :: 检测并启动 Ollama echo [Ollama 状态检测] :: 检查 Ollama 进程是否存在 tasklist /fi imagename eq ollama.exe 2nul | find /i ollama.exe nul if !errorlevel! equ 0 ( echo [信息] Ollama 服务已运行 ) else ( echo [提示] Ollama 未运行正在尝试启动... :: 检查 Ollama 是否已安装 where ollama nul 2nul if !errorlevel! neq 0 ( echo [错误] 未找到 ollama 命令请确保 Ollama 已安装并添加到 PATH echo. echo 按任意键继续启动 Open-WebUI但可能无法正常使用... pause nul ) else ( :: 启动 Ollama后台运行 echo [信息] 正在启动 Ollama 服务... start /min ollama serve :: 等待几秒让 Ollama 启动 echo [信息] 等待 Ollama 服务就绪... timeout /t 3 /nobreak nul :: 再次检测是否启动成功 tasklist /fi imagename eq ollama.exe 2nul | find /i ollama.exe nul if !errorlevel! equ 0 ( echo [信息] Ollama 服务启动成功 ) else ( echo [警告] Ollama 启动失败请手动检查 ) ) ) echo. echo echo. :: 激活conda环境 call conda activate open-webui :: 设置环境变量指定数据存储路径 set OPENWEBUI_DATA!DATA_DIR! :: 启动服务 open-webui serve --host 0.0.0.0 --port 8080 echo. echo echo 服务进程已停止按任意键关闭窗口 echo pause nul5.1.4 脚本使用说明双击脚本自动执行无需手动输入命令首次运行自动创建WebUI缓存、对话记录目录自动开放Ollama 11434端口、WebUI 8080端口局域网访问手机、其他电脑连接同一WiFi输入脚本打印的http://IP:8080即可使用首次打开网页注册管理员账号所有本地Modelfile自定义模型自动展示。5.2 方案二Python原生venv虚拟环境部署Open WebUI备选适用于未安装Conda仅原生Python的用户隔离全局Python包避免版本冲突。5.2.1 创建专用虚拟环境切换至非C盘存放目录创建虚拟环境文件夹打开PowerShell执行# 切换到ollama根目录cd E:\LocalAI\ollama# 新建虚拟环境总文件夹mkdir OllamaWebUI_venv# 进入文件夹cd OllamaWebUI_venv创建独立虚拟环境命名为open-webui-venvpython-m venvopen-webui-venv激活虚拟环境规避PowerShell脚本签名拦截两种方式任选方式1推荐保留窗口可持续操作cmd/kopen-webui-venv\Scripts\activate.bat方式2纯CMD窗口操作零权限报错在当前文件夹顶部地址栏输入cmd回车弹出命令提示符后执行open-webui-venv\Scripts\activate.bat激活成功后终端前缀会显示(open-webui-venv)标识代表进入独立纯净环境。5.2.2 虚拟环境内安装Open WebUI解决国内镜像SSL报错在已激活虚拟环境的终端中执行下方安装命令绕过国内镜像SSL连接故障直连Python官方源下载pip3 installopen-webui-i https://pypi.org/simple--trusted-host pypi.org--trusted-host files.pythonhosted.org参数说明-i指定Python官方下载源替代容易SSL报错的清华镜像--trusted-host强制信任域名跳过SSL证书校验解决连接中断、握手失败问题。安装备选方案若官方源网络依旧拦截切换阿里云国内镜像执行pip3 installopen-webui-i https://mirrors.aliyun.com/pypi/simple--trusted-host mirrors.aliyun.com5.2.3 venv一键启动批处理脚本echo off :: 注释说明区 :: 虚拟环境名称open-webui-venv独立隔离全局Python依赖避免版本冲突 :: 自动抓取WLAN无线局域网IPv4IP地址动态适配无需手动写死 :: start cmd /k 新开持久终端窗口关闭窗口则对应服务停止 :: timeout /t X 设置服务启动缓冲等待时间防止启动顺序报错 :: 移除自动打开浏览器逻辑仅在当前窗口打印局域网访问链接 :: :: 切换到虚拟环境上级根目录路径可根据自身存放位置修改 cd /d E:\LocalAI\ollama :: 在当前窗口激活虚拟环境 call open-webui-venv\Scripts\activate.bat :: 自动抓取WLAN无线网卡IPv4地址 set LAN_IP for /f tokens2 delims: %%a in (ipconfig ^| findstr 无线局域网适配器 WLAN /Ahead 5 ^| findstr IPv4) do ( set LAN_IP%%a ) :: 去除IP地址前后多余空格 for /f delims %%i in (%LAN_IP%) do set LAN_IP%%i :: 判断是否成功获取WiFi局域网IP if %LAN_IP% ( echo 错误未检测到WLAN无线网络请检查WiFi连接状态 pause exit ) echo 正在启动Ollama后台服务... :: 新开独立终端运行Ollama开放0.0.0.0全局域网设备访问 start cmd /k $env:OLLAMA_HOST0.0.0.0:11434; ollama serve timeout /t 3 /nobreak nul echo 正在启动Open WebUI网页服务虚拟环境 open-webui-venv... :: 新开终端自动切换目录、激活虚拟环境并启动网页服务开放局域网访问 start cmd /k cd /d E:\LocalAI\ollama call open-webui-venv\Scripts\activate.bat py -m open_webui.main serve --host 0.0.0.0 timeout /t 5 /nobreak nul :: 打印可访问的局域网地址 echo echo 本机局域网IP%LAN_IP% echo 手机/同局域网电脑访问地址 echo http://%LAN_IP%:3000 echo echo 重要提示两个黑色终端窗口请勿关闭关闭后服务立即失效 pause5.3. 局域网设备通用使用方法手机/第二台电脑连接和本机同一个WiFi/局域网运行对应启动脚本复制打印出的访问地址在设备浏览器输入地址Conda方案端口8080venv方案端口3000首次打开网页注册管理员账号登录后直接调用本地所有模型无需重复下载权重。六、Windows防火墙放行端口局域网访问必备补充步骤若同局域网设备无法打开WebUI页面需放行Ollama与WebUI端口WinR输入wf.msc打开高级防火墙左侧【入站规则】→右侧【新建规则】规则类型选【端口】下一步TCP端口填写11434,3000,8080允许连接全选域/专用/公网命名Ollama局域网AI端口保存。七、补充常见问题排查模型修改路径不生效环境变量配置完成后未重启电脑必须重启系统才能加载新路径局域网其他设备无法连接未放行11434/3000/8080防火墙端口、Ollama_HOST未设0.0.0.0、服务终端提前关闭pip安装命令提示权限不足启动终端时未选择「以管理员身份运行」pip安装Open WebUI报SSL连接错误使用教程内提供的官方源/阿里云源安装命令venv环境执行open-webui提示不是内部命令改用py -m open_webui.main serve启动方式规避PATH缺失问题Conda脚本激活失败确认Anaconda/Miniconda安装时勾选添加到系统环境变量或在脚本开头手动加载conda初始化激活虚拟环境.ps1脚本提示无数字签名改用cmd执行activate.bat无PowerShell权限拦截拉取模型速度慢新增系统环境变量OLLAMA_MIRRORhttps://xxx配置国内镜像源依赖包版本大量冲突优先使用Conda虚拟环境方案彻底隔离全局Python库WebUI数据塞满C盘Conda脚本自动识别E/D盘存储对话缓存无需手动迁移Ollama自定义安装后命令找不到手动将E:\LocalAI\ollama\ollama添加到系统PATH环境变量