InfraNet:红外主导的RGB-IR目标检测新框架

在夜间安防、自动驾驶、无人机巡检等复杂视觉场景中,红外目标检测技术能够突破光照限制,实现全天候的环境感知。但传统的RGB-IR多模态检测方案往往默认两种模态信息天然互补,在训练和推理阶段都直接融合RGB与红外特征,这种思路在真实复杂环境中存在明显缺陷。
RGB图像的质量高度依赖环境光照,在夜间、雾天、强逆光、低照度甚至雨雪天气中,RGB可能出现严重噪声、过暗过曝或者结构缺失。如果此时模型依然将RGB与红外视为同等可靠的输入进行融合,退化的RGB特征反而会污染红外表示,导致检测出现误检和漏检,让RGB从原本的增强信息变成噪声来源。
针对这一痛点,国内高校联合团队提出了InfraNet框架,这是一种以红外为核心的质量感知RGB引导方案,能够自适应调节RGB对检测过程的辅助作用,大幅提升复杂场景下的检测鲁棒性。
红外主导的灵活部署方案
与传统对称融合的多模态方案不同,InfraNet将红外分支作为主检测路径,负责提取多尺度红外特征并完成最终检测;RGB分支仅作为训练阶段的辅助信号,为红外特征学习提供跨模态的引导。基于这一核心思路,InfraNet支持两种灵活的部署形态:
- InfraNet-IR:训练阶段利用RGB辅助红外分支学习特征,推理阶段则移除RGB分支与融合模块,仅通过红外图像完成检测,适合部署环境中RGB传感器不稳定的场景。
- InfraNet-RGB-IR:训练和推理阶段都同时使用RGB与红外两种模态,适合双传感器均稳定可用的常规环境。
QualGate:动态调节RGB贡献的核心模块
InfraNet的关键创新在于QualGate模块,它并非简单的特征拼接或加权融合,而是学习一个与检测任务强相关的可靠性控制信号,动态调节RGB对红外分支的影响程度。
当RGB特征质量可靠时,QualGate会允许其提供更多的跨模态引导,帮助红外分支补充细节信息;当RGB特征出现退化时,模块会主动降低RGB的贡献,避免噪声传播到红外表示中,同时同步增强红外特征,让模型在RGB不可靠时更加依赖稳定的红外信息。
具体来说,QualGate包含两个互补的机制:一是RGB suppression,用于抑制不可靠的RGB引导,减少低质量RGB带来的负迁移;二是IR amplification,用于补偿并增强红外特征,保证红外主路径在复杂环境下保持稳定的检测能力。这一设计让模型不再关注RGB图像的视觉美观程度,而是聚焦于RGB特征对当前检测任务的实际价值。
多数据集验证的优异性能
团队在四个主流RGB-IR检测基准数据集上开展了系统的对比实验,覆盖行人检测、车载热成像、多场景检测和无人机车辆检测等不同任务场景,分别是LLVIP、FLIR-Aligned、M3FD和DroneVehicle。
实验结果展现了极强的竞争力:在LLVIP数据集上,双模态版本达到70.5mAP,单模态红外版本达到68.8mAP;在FLIR-Aligned数据集上,双模态版本达到89.5 mAP50,单模态版本达到88.1 mAP50;在DroneVehicle数据集上,红外版本达到84.7 AP50和63.9mAP。
这些结果不仅证明了InfraNet的有效性,更验证了“训练时利用RGB,推理时可仅使用红外”这一思路的可行性。对于真实部署场景来说,这一点至关重要:红外传感器在夜间和恶劣天气中通常表现更加稳定,而RGB图像的质量会随着光照条件大幅波动。
在M3FD数据集的可视化结果中,InfraNet-IR在不同照明条件下都能生成更紧凑的检测框,误检数量显著更少。相比部分传统融合方法,InfraNet-IR在RGB退化的场景中依然能够保持稳定的定位能力。进一步的特征可视化分析显示,InfraNet-IR能够生成更贴合目标的响应,减少背景区域的无效激活,证明训练阶段的质量感知RGB引导能够帮助红外分支学习更稳健的特征表示,同时部署阶段依然可以仅使用红外图像完成高效推理。
重新定义多模态感知的核心逻辑
InfraNet的价值远不止于提升红外目标检测的指标,更重要的是重新审视了多模态学习的核心逻辑。传统的多模态方法往往强调如何融合更多的信息,但真实世界中的传感器并不总是可靠的。
RGB可能因为夜间、眩光、雾天或者设备问题出现质量退化,不同模态还可能存在缺失、不同步或者质量不一致的问题。因此,一个鲁棒的多模态感知系统,不仅要学会利用多模态信息,更要学会主动拒绝不可靠的模态输入。
InfraNet的思路正是这一逻辑的落地:当RGB可靠时,借助其补充红外特征;当RGB不可靠时,抑制其对检测过程的干扰;当部署环境更适合红外传感器时,直接使用单模态红外完成检测。这种“质量感知、红外主导、部署灵活”的设计,非常适合自动驾驶、夜间安防、无人机巡检和智慧交通等复杂真实场景,为复杂环境下的视觉感知提供了更实用的解决方案。


