50系显卡配置Mamba-YOLO(Vmamba)环境—selective_scan算子的CUDA扩展编译问题解决
环境—selective_scan算子的CUDA扩展编译问题解决)
一、自身环境autoDL租用5090显卡LinuxUbuntuNVIDIA GPUPyTorch 2.7.1CUDA 12.8Python3.12官方要求Python最低是3.11版本二、问题阐述及原因分析1、红色方框的问题产生1、进入到selective_scan算子所在文件夹的编译路径。2、输入Python setup.py install出现报错。如果是这种情况下面是我的解决方法希望能帮助到你。2、出现该问题的原因如下模板参数为定值所以CUDA 编译报错。这里应该是之前想将VMamba算子编译到Win11环境时候改的硬编码建议大家还是尽量不要尝试Win环境下编译VMamba算子。尽管后续我也在win环境下成功装好但是整整花了我一周的时间具体怎么改我也忘了非常复杂改了好多参数。然后之后在autoDL上的Linux环境下装selective_scan算子又得改源码。三、解决方法1、打开selective_scan算子路径下的这个文件夹2、修改这个文件的一行代码using Ktraits Selective_Scan_bwd_kernel_traitskNThreads, kNItems, kIsEvenLen, kDeltaSoftplus, input_t, weight_t;3、重新在CUDA12.8的环境下编译MAX_JOBS4 TORCH_CUDA_ARCH_LIST12.0 python setup.py install4、最终结果展示这三个库已经安装完成selective_scan_cuda_core selective_scan_cuda_ndstate selective_scan_cuda_oflex5、忽略一些不影响运行的内容libgomp: Invalid value for environment variable OMP_NUM_THREADS四、其他方面对上述内容有任何问题欢迎大家评论留言。此外可能有同学问为什么要配置Mamba-YOLO我的亲身经历告诉你我投的期刊审稿人让我补Mamba-YOLO的对比实验。最后有需要在50显卡的Win环境下配置Mamba-yoloVmamba的小伙伴可以评论私信我可以将在Win环境下配置好的Mamba文件打包并远程帮助解决相关环境问题因耗费时间精力过长非免费环境同上以下是相关算子在win11系统成功配置的截图。
