本发明涉及图像处理,尤其涉及一种多光谱图像场景识别方法、装置、电子设备和存储介质。
背景技术:
1、遥感场景分类是遥感领域中的一项重要任务,其主要是针对给定的遥感图像,通过一定的算法对图像中包含的地物目标的语义类别进行预测。
2、现有的针对遥感图像场景分类的技术大多基于rgb图像而设计,针对多光谱遥感图像的场景分类研究较少。目前现有的多光谱场景识别方法大致可以总结为两种技术框架。第一种技术框架是,将不同波段的图像都上采样到相同的空间分辨率,然后在通道维度拼接组成一个多通道的图像数据,然后直接输入到经典的卷积神经网络中。第二种技术框架是,根据不同的分辨率,对所有波段进行分组,其中具有相同分辨率的波段为一组,然后将所有分组输入到一个多分支卷积神经网络中,再通过简单的融合方法对不同分组的特征进行融合,最后把融合的特征输入到分类头中完成最终的类别预测。
3、深度学习依赖大规模的数据集,由于多光谱图像数据集缺乏,导致现在针对多光谱图像的场景分类方法较少。现有上述两种技术框架,没有充分挖掘不同波段之间的相互关系,因此导致准确率有待提高。
技术实现思路
1、本发明提供一种多光谱图像场景识别方法、装置、电子设备和存储介质,用以解决现有技术中没有充分挖掘不同波段之间的相互关系,准确率有待提高的缺陷。
2、第一方面,本发明提供一种多光谱图像场景识别方法,包括:
3、获取待识别的多光谱图像,根据所述多光谱图像的波段对所述多光谱图像进行分组,得到至少一多光谱图像组;
4、基于与所述多光谱图像组的波段对应的预设网络结构对所述多光谱图像组进行特征提取,得到每一所述多光谱图像组对应的波段特征信息;
5、基于预设的跨波段注意力融合网络对所述波段特征信息进行特征融合,得到融合波段特征信息;
6、输入所述融合波段特征信息至预先训练完成的场景识别模型,得到场景识别结果。
7、根据本发明提供的一种多光谱图像场景识别方法,所述基于与所述多光谱图像组的波段对应的预设网络结构对所述多光谱图像组进行特征提取,得到每一所述多光谱图像组对应的波段特征信息,包括:
8、基于预设的骨干网络对rgb波段的所述多光谱图像组进行特征提取,得到rgb波段特征信息;
9、基于预设的多阶段分组光谱特征提取网络对非rgb波段的所述多光谱图像组进行特征提取,得到每一所述多光谱图像组对应的波段特征信息。
10、根据本发明提供的一种多光谱图像场景识别方法,所述多阶段分组光谱特征提取网络包括图像块嵌入层、与所述多光谱图像的波段对应的分组图像块嵌入层以及多阶段分组光谱特征提取网络单元,所述图像块嵌入层和所述分组图像块嵌入层均连接有一所述多阶段分组光谱特征提取网络单元;所述多阶段分组光谱特征提取网络单元包括依次连接的分组卷积模块、层归一化模块、激活函数模块和残差连接模块,所述残差连接模块用于连接所述多阶段分组光谱特征提取网络单元的输入端和输出端。
11、根据本发明提供的一种多光谱图像场景识别方法,所述骨干网络包括至少一局部特征提取单元和至少一全局特征提取单元,所述局部特征提取单元包括依次设置的第一位置编码模块、局部多头关系聚合模块和第一前馈神经网络模块,所述第一位置编码模块和所述局部多头关系聚合模块之间设有一批量归一化模块,所述局部多头关系聚合模块和第一前馈神经网络模块之间设有一批量归一化模块;所述全局特征提取单元包括依次设置的第二位置编码模块、全局多头关系聚合模块和第二前馈神经网络模块,所述第二位置编码模块和所述全局多头关系聚合模块之间设有层归一化模块,所述全局多头关系聚合模块和所述第二前馈神经网络模块之间设有层归一化模块。
12、根据本发明提供的一种多光谱图像场景识别方法,所述跨波段注意力融合网络包括第一线性层、第二线性层、第三线性层和注意力模块,所述第一线性层用于对所述rgb波段特征信息进行特征变换,得到特征查询信息,所述第二线性层用于对所述波段特征信息进行特征变换,得到特征键信息,所述第三线性层用于对所述波段特征信息进行特征变换,得到特征值信息,所述注意力模块用于根据所述特征查询信息和所述特征键信息,确定每个所述波段特征信息对应的注意力分数,根据所述注意力分数和所述特征值信息,得到所述融合波段特征信息。
13、根据本发明提供的一种多光谱图像场景识别方法,所述场景识别模型包括分类器,所述分类器用于根据预设的单标签或多标签分类任务对所述融合波段特征信息进行分类,确定分类分数;若所述分类器还未训练完成,则基于所述分类分数和预设的损失函数确定损失值,根据所述损失值更新所述预设网络结构、所述跨波段注意力融合网络和所述分类器的参数,直至所述分类器训练完成;若所述分类器训练完成,则将所述分类分数作为所述场景识别结果。
14、第二方面,本发明还提供一种多光谱图像场景识别装置,包括:
15、分组模块,用于获取待识别的多光谱图像,根据所述多光谱图像的波段对所述多光谱图像进行分组,得到至少一多光谱图像组;
16、提取模块,用于基于与所述多光谱图像组的波段对应的预设网络结构对所述多光谱图像组进行特征提取,得到每一所述多光谱图像组对应的波段特征信息;
17、融合模块,用于基于预设的跨波段注意力融合网络对所述波段特征信息进行特征融合,得到融合波段特征信息;
18、识别模块,用于输入所述融合波段特征信息至预先训练完成的场景识别模型,得到场景识别结果。
19、第三方面,本发明提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述多光谱图像场景识别方法的步骤。
20、第四方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述多光谱图像场景识别方法的步骤。
21、本发明提供的多光谱图像场景识别方法、装置、电子设备和存储介质,通过对不同光谱波段的特征信息进行充分提取,再对不同波段的特征信息进行融合,对不同波段之间的互补信息充分挖掘,实现不同特征的互相增强,从而达到了更好的识别准确度。
1.一种多光谱图像场景识别方法,其特征在于,包括:
2.根据权利要求1所述的多光谱图像场景识别方法,其特征在于,所述基于与所述多光谱图像组的波段对应的预设网络结构对所述多光谱图像组进行特征提取,得到每一所述多光谱图像组对应的波段特征信息,包括:
3.根据权利要求2所述的多光谱图像场景识别方法,其特征在于,所述多阶段分组光谱特征提取网络包括图像块嵌入层、与所述多光谱图像的波段对应的分组图像块嵌入层以及多阶段分组光谱特征提取网络单元,所述图像块嵌入层和所述分组图像块嵌入层均连接有一所述多阶段分组光谱特征提取网络单元;所述多阶段分组光谱特征提取网络单元包括依次连接的分组卷积模块、层归一化模块、激活函数模块和残差连接模块,所述残差连接模块用于连接所述多阶段分组光谱特征提取网络单元的输入端和输出端。
4.根据权利要求2所述的多光谱图像场景识别方法,其特征在于,所述骨干网络包括至少一局部特征提取单元和至少一全局特征提取单元,所述局部特征提取单元包括依次设置的第一位置编码模块、局部多头关系聚合模块和第一前馈神经网络模块,所述第一位置编码模块和所述局部多头关系聚合模块之间设有一批量归一化模块,所述局部多头关系聚合模块和第一前馈神经网络模块之间设有一批量归一化模块;所述全局特征提取单元包括依次设置的第二位置编码模块、全局多头关系聚合模块和第二前馈神经网络模块,所述第二位置编码模块和所述全局多头关系聚合模块之间设有层归一化模块,所述全局多头关系聚合模块和所述第二前馈神经网络模块之间设有层归一化模块。
5.根据权利要求2所述的多光谱图像场景识别方法,其特征在于,所述跨波段注意力融合网络包括第一线性层、第二线性层、第三线性层和注意力模块,所述第一线性层用于对所述rgb波段特征信息进行特征变换,得到特征查询信息,所述第二线性层用于对所述波段特征信息进行特征变换,得到特征键信息,所述第三线性层用于对所述波段特征信息进行特征变换,得到特征值信息,所述注意力模块用于根据所述特征查询信息和所述特征键信息,确定每个所述波段特征信息对应的注意力分数,根据所述注意力分数和所述特征值信息,得到所述融合波段特征信息。
6.根据权利要求1所述的多光谱图像场景识别方法,其特征在于,所述场景识别模型包括分类器,所述分类器用于根据预设的单标签或多标签分类任务对所述融合波段特征信息进行分类,确定分类分数;若所述分类器还未训练完成,则基于所述分类分数和预设的损失函数确定损失值,根据所述损失值更新所述预设网络结构、所述跨波段注意力融合网络和所述分类器的参数,直至所述分类器训练完成;若所述分类器训练完成,则将所述分类分数作为所述场景识别结果。
7.根据权利要求1所述的多光谱图像场景识别方法,其特征在于,在所述根据所述多光谱图像的波段对所述多光谱图像进行分组之前,还包括:
8.一种多光谱图像场景识别装置,其特征在于,包括:
9.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述多光谱图像场景识别方法的步骤。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述多光谱图像场景识别方法的步骤。