在nvidia笔记本显卡上如何用vllm拉起qwen3-0.6b(含WSL2: RuntimeError: UVA is not available解决办法)
文章目录搭建vllm环境配置一览拉取官方vllm镜像创建容器启动vllm服务并测试启动vllm服务测试附录WSL2: RuntimeError: UVA is not available原因及解决办法kvcache占用计算方法本文记录如何在搭载nvidia显卡的笔记本上使用wsl2 docker方法创建的vllm环境拉起qwen3-0.6b,并且实现…
2026/7/6 3:17:58