部署Qwen2.5-VL-3B-Instruc视觉模型的教程
部署视觉模型的教程
1. 环境信息项目详情主机型号DPS-Z790-S-DDR4操作系统Ubuntu 22.04 LTS (Linux Desktop)GPUNVIDIA GeForce RTX 系列 (Z790 平台)CUDA12.6Python3.10模型Qwen2.5-VL-3B-Instruct推理框架vLLM 0.8.xAPI 端口8003部署日期2026-08-05
2. 基础环境安装
2.1 系统…
2026/8/6 8:09:39