【RT-DETR多模态创新改进】ICCV 2025 | 独家特征融合创新| 引入 LIF 局部光照感知融合模块,高效融合 RGB 与红外信息,可见光与红外图像融合目标检测,多模态融合检测发论文热点

📅 2026/7/27 6:30:35
【RT-DETR多模态创新改进】ICCV 2025 | 独家特征融合创新| 引入 LIF 局部光照感知融合模块,高效融合 RGB 与红外信息,可见光与红外图像融合目标检测,多模态融合检测发论文热点
一、本文介绍🔥本文给大家介绍使用LIF局部光照感知融合模块引入RT-DETR 多模态红外–可见光目标检测中,可根据图像不同区域的局部光照条件自适应分配 RGB 与红外特征权重,在亮区充分利用可见光的纹理信息,在暗区或夜间更侧重红外的目标轮廓信息,从而实现合理且稳定的互补融合。该模块通过像素级权重映射有效缓解传统融合方法在复杂光照环境下产生的融合退化问题,减少多模态检测中的误检与漏检。同时,LIF 结构轻量、可解释性强,对 RT-DETR 框架耦合性低,几乎不增加计算开销即可显著提升复杂光照场景下的检测鲁棒性与整体性能,尤其适用于实时多模态目标检测任务。🔥欢迎订阅我的专栏、带你学习使用最新-最前沿-独家RT-DETR多模态创新改进!🔥🔥RT-DETR多模态改进专栏目录:《独家RT-DETR多模态改进专栏目录 》全网独家创新,多模态融合改进教程,包含早期融合、中期融合、后期融合、损失函数改进、二次创新模块、独家创新等几百种创新点改进,答疑群提供完整项目,永久更新中🔥RT-DETR多模态创新订阅地址:RT-DETR多模态创新改进专栏—轻松跑实验、多模态项目较容易冲顶会顶刊,永久更新中本文目录一、本文介绍二、LIF 局部光照感知融合模块介绍2.1 LIF 局部光照感知融合模块结构图2.2 LIF 局部光照感知融合模块的作用2.3 LIF 局部光照感知融合模块的原理2.4 LIF 局部光照感知融合模块的优势三、完整核心代码四、手把手教你配置模块和修改tasks.py文件1.首先在ultralytics/nn/newsAddmodules创建一个.py文件2.在ultralytics/nn/newsAddmodules/__init__.py中引用3.修改tasks.py文件五、创建涨点yaml配置文件🚀 早期融合创新改进🔥: rtdetr-r18-earlyfusion-LIF.yaml🚀 中期融合创新改进🔥:rtdetr-r18-midfusion-LIF.yaml六、正常运行二、LIF 局部光照感知融合模块介绍摘要:多模态目标检测(MMOD)因其对复杂环境的更强适应性,已广泛应用于各类场景。现有研究主要聚焦于RGB-IR模态目标检测,重点探讨如何整合RGB-IR模态的互补特征。然而,这些研究忽视了多模态联合学习中单模态学习能力不足的问题,导致特征提取能力下降,进而引发一种虽不理想却普遍存在的现象——融合退化,这阻碍了 MMOD 模型的性能提升。基于此,本文将线性探测评估引入多模态检测器,并从单模态学习视角重新定义多模态目标检测任务。为此,我们构建了一个名为M2D- LIF 的创新框架,该框架由单模态蒸馏(M2D)方法和局部光照感知融合(LIF)模块组成。M2D- LIF 框架在多模态联合训练中促进单模态的充分学习,并探索了一种轻量级且高效的特征融合方式,从而实现更优的目标检测性能。在三个 MMOD 数据集上的大量实验表明,我们的M2D- LIF 有效缓解了融合退化现象,其性能优于先前的 SOTA 检测器。