Qwen2.5-VL-7B-Instruct-w4a16量化模型评估报告【免费下载链接】Qwen2.5-VL-7B-Instruct-w4a16-tao-symgroup-torchao-v0.17.0项目地址: https://ai.gitcode.com/hf_mirrors/amd/Qwen2.5-VL-7B-Instruct-w4a16-tao-symgroup-torchao-v0.17.0评估环境硬件配置AMD EPYC XXXX软件版本TorchAO 0.17.0, vLLM 0.20.2评估时间YYYY-MM-DD基准测试结果任务量化模型得分基线模型得分性能保持率MMLUXX.X%XX.X%XX.X%GSM8KXX.X%XX.X%XX.X%Wikitext-2XX.XXXX.XXXX.X%资源使用情况峰值内存XX GB平均推理速度XX tokens/secCPU使用率XX%结论与建议[在此处总结评估结果和优化建议]【免费下载链接】Qwen2.5-VL-7B-Instruct-w4a16-tao-symgroup-torchao-v0.17.0项目地址: https://ai.gitcode.com/hf_mirrors/amd/Qwen2.5-VL-7B-Instruct-w4a16-tao-symgroup-torchao-v0.17.0创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考