'llava' is already used by a Transformers config, pick another name.
解决方法:
对transformers
进行降级,降级到4.30.1
或者4.30.0
。
解决方案
对transformers进行降级,降级到4.30.1或者4.30.0。
pip install transformers==4.34.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
测试:
python -m llava.serve.cli --model-path 《依赖的llava模型地址》 --image-file 《图片地址》 --load-4bit
原文链接:https://blog.csdn.net/woai8339/article/details/136325601