本发明涉及云台灯控制,特别是涉及一种无人机云台灯的照射控制方法、装置及设备。
背景技术:
1、在夜间巡查、特种处理和应急救援等任务中,无人机的照射设备为了应对低光照环境,引入了多光轴云台灯的作为辅助照明。该无人机的照射设备包括摄像头、控制设备和多光轴云台灯,如图1所示,其多光轴云台灯包括至少两个光源并通过一连接杆连接,该光源包括横滚轴和俯仰轴。其中,如图2所示,通过调节所述横滚轴,以调节光源的航向角度,而通过调节所述俯仰轴,以调节光源的俯仰角度,所述航向角度为光源的水平方向、所述俯仰角度为光源的垂直方向,进而使该多光轴云台灯的各个光轴实现对水平和垂直方向的精准调整,以应对多样化的夜间任务需求。
2、在操作中,无人机云台灯的照射控制装置通过分析摄像头提供的视觉信息,智能计算多光轴云台灯的光斑位置,接着通过调整各横滚轴和各俯仰轴,使两个光源的光轴形成的光斑相互重合。同时,为了进一步优化视觉信息和照明效果,无人机云台灯的照射控制装置还能够实时调整摄像头的朝向,确保对目标区域的全方位覆盖。
3、然而,独立控制的光源带来灵活性的同时,由于惯性测量单元(imu)数据的差异、无人机振动等复杂因素,容易导致两个光源的光轴形成的光斑难以持续保持重合。
技术实现思路
1、基于此,本发明的目的在于,提供一种无人机云台灯的照射控制方法。
2、一种无人机云台灯的照射控制方法,包括以下步骤:
3、s1:根据目标的坐标信息和一多光轴云台灯的至少两光源的横滚轴参数和俯仰轴参数,控制所述多光轴云台灯的至少两光源朝向目标照射,形成光斑;
4、s2:控制一摄像机朝向目标拍摄,获取一光斑图像;
5、s3:对光斑图像中的光斑进行语义分割,得到光斑的所有像素坐标;
6、s4:计算所有像素坐标在横轴的最大值和最小值差异,得到水平距离;计算所有像素坐标在纵轴的最大值和最小值差异,得到垂直距离;
7、s5:判断水平距离和垂直距离差值是否小于差值阈值:若为是,则结束控制;若为否,则更新坐标信息,则执行步骤s6。
8、s6:调整所述多光轴云台灯的各横滚轴参数和各俯仰轴参数,返回执行步骤s1。
9、其中,所述步骤s6中,当所述水平距离大于所述垂直距离时,调整所述多光轴云台灯的至少两个光源的照射横滚轴参数;当所述垂直距离大于所述水平距离时,调整所述多光轴云台灯的至少两个光源的照射俯仰轴参数。
10、相对于现有技术,本发明通过一语义分割模型对光斑图像进行语义分割,大幅度降低环境光对光斑识别的影响,从而提高计算光斑重合的准确度。同时,本发明可以自适应于不同图片,而且在短时间内(仅需0.06秒)即可找到其中光斑区域的位置,从而使两个光源的光斑高重合,进而使光照的集中程度高,提高用户体验。
11、此外,基于圆的直径相等,当所述水平距离小于垂直距离,即光斑在垂直方向未重合,此时需要对垂直方向进行调整;当所述水平距离大于垂直距离,即光斑在水平方向未重合,此时需要对水平方向进行调整;当二者相等时,则光斑已经实现重合,不需要对多光轴云台灯进行调整。
12、进一步地,步骤s5的差值阈值小于等于5个像素。
13、由于在实际应用中,算法处理和控制都存在一定的误差,无法保证水平距离和垂直距离完全相等。因此,通过经验得知,当水平距离和垂直距离差值阈值小于等于5个像素时,为以人的感官角度将无法分辨出光斑未重合,据此,该阈值为最佳阈值选择。
14、进一步地,步骤s3通过一yolov8模型进行语义分割;
15、所述yolov8模型包括骨干网络、颈部网络和头部网络;
16、所述骨干网络对光斑图像进行特征提取,得到多个尺度不同的光斑特征图;
17、所述颈部网络对多个尺度不同的光斑特征图进行相互融合特征信息,得到多个尺度不同的融合光斑特征图;
18、所述头部网络对多个尺度不同的融合光斑特征图进行光斑识别,对识别出光斑的融合光斑特征图中的光斑提取像素坐标。
19、其中,语义分割可以将所有光斑识别成一个整体,例如,当两个光斑有交集时,语义分割将交集的光斑面积视为一个整体。而不是如实例分割,将光斑交集处也区分识别出来,从而容易受非极大值抑制(non-maximum suppression,nms)的影响。
20、进一步地,所述yolov8模型的可训练参数通过光斑数据图像和标注后数据图像进行训练,其训练步骤包括:
21、将yolov8模型对光斑数据图像进行语义分割后的光斑图像与标注后图像进行总损失计算:
22、
23、通过总损失,对所述yolov8模型的参数进行调整更新;
24、其中,所述分类损失表示为:
25、
26、其中,class为语义分割后光斑图像的类别,classgt为标注后数据图像的类别,bce为二分类交叉熵损失计算;
27、所述检测框损失表示为:
28、
29、其中,box为语义分割后光斑图像的预测框,boxgt为标注后数据图像的标注框;ciou将(box,boxgt)二者的中心点和长宽比进行差异计算,而dfl将box与boxgt坐标点进行差异计算;
30、所述掩膜损失函数表示为:
31、
32、其中,m为语义分割后光斑图像的光斑面积,mgt为标注后数据图像的标注光斑面积,其bce为二分类交叉熵损失计算。
33、为了使实例分割得更为精准,以6.125的权重计算其光斑面积的差异,使模型更注重于语义分割。同时通过1.5权重计算光斑预测框之间的差异,使模型更为关注其光斑的位置。由于本发明更注重于识别出光斑的所有像素坐标,因此,在分类上只需要设置1的权重即可,使模型保证具备一定的分类能力的情况下,更关注于识别出光斑的位置和面积。
34、一种无人机云台灯的照射控制装置,包括云台灯控制模块、摄像头控制模块、语义分割模型、坐标极值计算模块、光斑重合判断模块和光轴参数调整模块;
35、所述云台灯控制模块用于根据目标的坐标信息和一多光轴云台灯的至少两光源的各横滚轴参数和各俯仰轴参数,控制所述多光轴云台灯的至少两光源朝向目标照射,形成光斑;
36、所述摄像头控制模块用于控制一摄像机朝向目标拍摄,获取一光斑图像;
37、所述语义分割模型用于对光斑图像中的光斑进行语义分割,得到光斑的所有像素坐标;
38、所述坐标极值计算模块用于计算所有像素坐标在横轴的最大值和最小值差异,得到水平距离;计算所有像素坐标在纵轴的最大值和最小值差异,得到垂直距离;
39、所述光斑重合判断模块用于判断水平距离和垂直距离差值是否小于差值阈值:若为是,则结束控制;若为否,则调用所述光轴参数调整模块。
40、所述光轴参数调整模块用于调整所述多光轴云台灯的各横滚轴参数和各俯仰轴参数,返回调用所述云台灯控制模块。
41、一种无人机的照射设备,包括多光轴云台灯、摄像头和上述所述无人机云台灯的照射控制装置;所述多光轴云台灯,根据无人机云台灯的照射控制装置传输的目标的坐标信息及控制信号朝向目标区域进行照射,形成光斑;
42、所述摄像头,根据无人机云台灯的照射控制装置传输的拍摄信号朝向目标区域进行拍摄,并将目标区域的光斑图像传入无人机云台灯的照射控制装置;
43、所述无人机云台灯的照射控制装置处理光斑图像后,分别输出控制信号至所述多光轴云台灯和摄像头。
44、一种无人机云台灯的光重合判断方法,包括以下步骤:
45、s11:对一光斑图像中的光斑进行语义分割,得到光斑的所有像素坐标;
46、s12:计算所有像素坐标在横轴的最大值和最小值差异,得到水平距离;计算所有像素坐标在纵轴的最大值和最小值差异,得到垂直距离;
47、s13:判断水平距离和垂直距离的差值的绝对值是否小于一差值阈值;若为是,则判断光圈重合;若为否,则判断光圈未重合。
48、一种无人机云台灯的光重合判断装置,包括语义切割模型、坐标机制计算模型及光斑重合判断模块;
49、所述语义切割模型用于对一光斑图像中的光斑进行语义分割,得到光斑的所有像素坐标;
50、所述坐标机制计算模型用于计算所有像素坐标在横轴的最大值和最小值差异,得到水平距离;计算所有像素坐标在纵轴的最大值和最小值差异,得到垂直距离;
51、所述光斑重合判断模块用于判断水平距离和垂直距离的差值的绝对值是否小于一差值阈值;若为是,则判断光圈重合;若为否,则判断光圈未重合。
52、为了更好地理解和实施,下面结合附图详细说明本发明。
1.一种无人机云台灯的照射控制方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的无人机云台灯的照射控制方法,其特征在于,步骤s5所述差值阈值为小于等于5个像素。
3.根据权利要求2所述的无人机云台灯的照射控制方法,其特征在于,步骤s3通过一yolov8模型进行语义分割;
4.根据权利要求3所述的无人机云台灯的照射控制方法,其特征在于,所述yolov8模型的可训练参数通过光斑数据图像和标注后数据图像进行训练,其训练步骤包括:
5.一种无人机云台灯的照射控制装置,其特征在于,包括云台灯控制模块、摄像头控制模块、语义分割模型、坐标极值计算模块、光斑重合判断模块和光轴参数调整模块;
6.根据权利要求5所述的无人机云台灯的照射控制装置,其特征在于,所述光斑重合判断模块的差值阈值小于等于5个像素。
7.根据权利要求6所述的无人机云台灯的照射控制装置,其特征在于,所述语义分割模型为yolov8模型;
8.一种无人机的照射设备,其特征在于,包括多光轴云台灯和摄像头,及权利要求5-7任一项所述的照射控制装置;
9.一种无人机云台灯的光重合判断方法,其特征在于,包括以下步骤:
10.一种无人机云台灯的光重合判断装置,其特征在于,包括语义切割模型、坐标机制计算模型及光斑重合判断模块;