进行模型量化 量化1.8b模型 `lmdeploy chat /root/models/internlm2_5-1_8b-chat-w4a16-4bit/ --model-format awq 模型量化结果 测试 占用 kv量化 占用
