本发明涉及多目标跟踪技术,特别涉及多目标跟踪复杂运动的预测技术。
背景技术:
1、多目标跟踪(multi-object tracking,mot)技术是计算机视觉研究的热门问题之一,结合了计算机视觉、模式识别、数字图像处理、机器学习等多个学科,其主要目标为完成对视频序列中多个感兴趣目标的位置定位和身份保持,以形成目标轨迹。多目标跟踪深度融合了目标检测、目标重识别等基础技术,为后续高层的视频分析理解如动作识别、行为分析奠定了基础。在实际应用中,多目标跟踪已在安防监控、体育视频分析等多个领域中展现出其实用价值和经济潜力。
2、近些年来的多目标跟踪方法中,基于检测-关联的mot方法大多严重依赖目标的外观特征完成跨帧匹配,对于目标的运动模式基本仅采用线性运动假设,当遇到目标具有较高的外观相似度(如表演舞者统一的着装)和不规则的运动(如运动员的突然快速变向)时,目前的跟踪方法均会出现不同程度上的跟踪失败问题。随着多样化mot数据集的推出,越来越多的研究者们开始探索除目标外观特征之外的其他跟踪线索,例如目标方向变化、目标高度变化和相机运动等等,但是这些方法仍停留在更改边界框度量方式和利用场景强先验等低泛化性的策略调整上,忽略了对待跟踪目标复杂运动模式鲁棒建模的探究。最后,在目标复杂运动建模方面,目前的方法仍在使用网络结构简单且具有顺序执行属性的rnn、gru和lstm等模型,并没有利用其它具有并行训练属性和强时序关系建模能力的模型结构,导致这些方法对目标非线性运动的拟合能力以及实际应用中的计算速度并不理想。
技术实现思路
1、本发明所要解决的技术问题是,提供一种能对轨迹运动模式信息的挖掘,从而提升现有多目标跟踪模型的跟踪性能的方法。
2、本发明为解决上述技术问题所采用的技术方案是,一种基于轨迹运动缓存器的多目标跟踪复杂运动预测方法,包括步骤:
3、运动轨迹信息缓存器编码步骤:首先根据运动轨迹的预设帧数,针对当前帧中各目标之前预设帧数中每帧的位置信息进行归一化后输入多层感知机进行编码得到各目标的轨迹运动特征;
4、相同目标时序交互步骤:将所有目标的轨迹运动特征拼接得到运动轨迹信息缓存器b,再获取可学习的运动特征向量,所述可学习的运动特征向量通过训练得到,用于隐式表征目标的运动模式;将每个目标的轨迹运动特征分别与可学习的运动特征向量进行拼接得到隐含了运动模式的轨迹运动特征,再将所有目标的隐含了运动模式的轨迹运动特征进行拼接并添加可学习的时序位置编码得到融合后的运动轨迹信息缓存器b′,该时序位置编码也通过训练得到;最后,将融合后的运动轨迹信息缓存器中各目标运动特征嵌入分别进行基于自注意力的时序交互后得到特征增强后的运动轨迹信息缓存器b″;
5、不同目标空间交互步骤:从特征增强后运动轨迹信息缓存器中选取不同轨迹的末尾段的运动特征向量token作为运动嵌入向量嵌入缓存器b″′,将选取的运动嵌入向量在缓存器中利用帧内自注意力完成不同目标之间的空间交互后得到聚合了不同目标空间交互信息的运动轨迹信息缓存器,最后聚合后的运动轨迹信息缓存器再与运动嵌入向量进行残差连接得到嵌入信息e;
6、运动预测步骤:将嵌入信息输入全连接层执行运动预测,得到目标下一帧的相对位置偏置。
7、本发明提出一种基于轨迹运动缓存器的复杂运动预测模块,通过引入可学习的运动特征向量将同一目标帧间的时序交互和不同目标帧内的位置交互有机的结合起来,有效提升预测框的准确性。
8、基于轨迹运动缓存器的多目标跟踪复杂运动预测方法,用于多目标跟踪运动预测任务。本发明通过构建含有显式轨迹长时期运动轨迹信息缓存器的缓存器和可学习的运动模式表征向量,使得网络能够在自注意力的时、空交互过程中自适应选择并聚合有用的信息,实现对轨迹运动模式信息的挖掘,从而进一步提升现有多目标跟踪模型的跟踪性能。
9、进一步的,构建了用于运动预测网络训练的数据集以及设计了相应的数据增强策略。
10、数据增强策略包括随机位置偏移和随机轨迹段擦除;随机位置偏移是在输入预测轨迹位置编码上加入先验的高斯分布偏移,模拟实际跟踪场景下检测框不准的情况;随机轨迹段擦除的具体方法为:针对训练数据集中一个运动轨迹,以设定概率擦除该运动轨迹中部分帧的位置信息,擦除的具体操作是将该部分帧的轨迹位置信息置为0,模拟跟踪目标被短时遮挡的情况。
11、本发明的有益效果是:预测过程中通过引入可学习的运动特征向量将同一目标帧间的时序交互和不同目标帧内的位置交互有机的结合起来,有效提升预测框的准确性。一次训练即可将实现本发明方法的模型嵌入到现有的多个不同的跟踪器中,改善现有跟踪器在复杂运动场景下的跟踪性能。能够即插即用,有效提升现有跟踪器的适配性。
12、通过在dancetrack和sportsmot公开数据集上的融入多个跟踪器的实验表明,我们所提出的方法能够即插即用,有效提升现有跟踪器的性能。在dancetrack公开数据集上以相同的跟踪策略与不同运动预测的模型进行了对比实验,结果证明了本发明方法与以往运动预测方法相比的优越性能。
13、进一步的,数据增强策略能够模拟真实跟踪场景下检测器不准带来的边界框噪声以及目标被遮挡时的跟踪暂时丢失的情形,增强运动预测网络的泛化性。
1.一种基于轨迹运动缓存器的多目标跟踪复杂运动预测方法,其特征在于,包括步骤:
2.如权利要求1所述方法,其特征在于,训练过程中,对训练数据集中的跟踪序列进行数据增强策略操作,数据增强策略包括随机位置偏移和随机轨迹段擦除;
3.如权利要求1所述方法,其特征在于,设定概率p=0.1,所述部分帧为3-5帧。
4.如权利要求1所述方法,其特征在于,运动轨迹信息缓存器编码步骤的编码过程中,针对目标未出现的帧,则该帧对应的运动轨迹信息缓存器使用0进行填充。
5.如权利要求1所述方法,其特征在于,不同目标空间交互步骤中,在特征增强后运动轨迹信息缓存器b″中选取不同轨迹的末尾段的运动特征向量token的操作是通过训练可学习的。
6.如权利要求1所述方法,其特征在于,运动轨迹的预设帧数为20。
7.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1所述方法的步骤。
