【Bug已解决】Qwen 3.6 awq can‘t load, always OOM error 解决方案
【Bug已解决】Qwen 3.6 awq cant load, always OOM error 解决方案
一、现象长什么样
用 vLLM 加载 Qwen 3.6 的 AWQ(4 位激活感知量化)版本时,无论怎么调,进程总是在「加载权重」阶段直接被 OOM(显存不足)…
2026/7/27 15:18:05