本发明涉及机器人,尤其涉及一种基于大模型的机器人传感器去噪方法。
背景技术:
1、机器人中惯性测量单元(imu)和扭矩传感器的信号容易受到各种噪声的影响,直接使用原始信号进行状态估计,结果会存在较大误差。为提高状态估计的精度,需要对信号进行预处理去噪。
2、传统的去噪方法包括低通滤波、小波变换等手工设计的滤波方法。这些方法根据人为构建的传感器噪声模型设计滤波算法,对不同类型、品质的传感器通用性较差。随着深度学习技术的进展,也有学者尝试使用神经网络对imu信号去噪。但大多仍依赖于完整准确的标注数据进行监督训练,在实际场景中难以获取充足标注。
3、近年来,在自然语言处理领域出现了利用大规模文本语料预训练而获得的基础语言模型(foundation language model),如gpt、bert等。这些模型展现了强大的语义建模能力,仅通过微调便可迁移至下游任务,达到甚至超过针对特定任务设计的模型的效果,对少样本或零样本学习也很有效。且不同下游任务可共享同一预训练模型,使模型部署更简单。
4、基于上述分析,设计一种能够利用预训练语言模型进行传感器信号去噪的方法,具有非常重要的理论意义和应用价值。
技术实现思路
1、针对背景技术中讨论的问题,本发明的目的是提供一种基于大模型的机器人传感器去噪方法,以提高状态估计的精度。
2、为实现上述目的,本发明提供一种基于大模型的机器人传感器去噪方法,包含以下步骤:
3、s1、对传感器原始信号进行预处理;
4、s2、加载语义建模预训练模型,冻结部分参数;
5、s3、通过调整预训练模型的位置嵌入编码层和标准化层,进行模型微调;
6、s4、定义异常分数,根据异常分数确定是否输出去噪信号;
7、s5、利用微调后的预训练模型对传感器的信号进行去噪。
8、作为优选,步骤s1中预处理具体包括有:
9、切分传感器捕获的原始数据,确保数据序列长度的一致性;
10、对传感器的原始信号序列进行标准化,消除不同数据间的偏差,减少量纲影响提升算法的泛化能力;通过在块序列末尾补零以处理不同长度的数据,实现数据处理的统一标准。
11、作为优选,步骤s2中模型加载和调整具体包括有:
12、选择在大规模文本语料上预训练的语言模型,如gpt、bert等,确保模型的学习能力和预测准确性;
13、冻结预训练模型的自注意力层和前向全连接层,保持模型主体结构稳定,聚焦于特定层的训练;为此,冻结预训练模型的主体参数,只调整与去噪任务相关层的参数,相关层包括位置嵌入层、标准化层;
14、利用transformer结构的优势,通过捕获数据间复杂的依赖关系,实现对噪声环境的深度学习。gpt等模型通过transformer等结构拟合语言环境中的词与词关系,学习语义信息。本方法复用这种上下文编码能力,将语义建模迁移至时序信号建模。
15、作为优选,步骤s3模型微调包括:
16、对块序列进行掩码,并通过所述预训练模型预测掩码处信号,计算均方误差;
17、调整位置嵌入层,学习块序列到向量的映射;
18、调整标准化层,学习各传感器特性;
19、通过梯度下降算法迭代优化可训练层的参数。可训练层包括位置嵌入层以及标准化层。
20、通过训练位置嵌入层的参数,以更准确地捕捉传感器数据的时序关系。
21、通过训练标准化层的参数,使模型更有效地适应不同传感器的数据规模和范围。
22、作为优选,步骤s4中定义异常分数具体包括:
23、利用模型对原始信号预测当前值,计算与真实传感器读数的差异作为此时的异常分数;该步骤定义基于统计原理的异常分数模型,量化噪声数据的影响;
24、结合实时数据,动态调整阈值,敏锐捕捉可能的噪声变化;
25、通过实时分析传感器数据的变化,及时发现并隔离噪声数据,保证数据的纯净性。
26、作为优选,步骤s5中利用模型对测试数据进行去噪包括:
27、实时检测并消除潜在的噪声;
28、利用去噪后的传感器数据进行状态估计,评估去噪算法的鲁棒性。
29、以下将结合附图对本发明的构思、具体结构及产生的技术效果作进一步说明,以充分地了解本发明的目的、特征和效果。
1.一种基于大模型的机器人传感器去噪方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种基于大模型的机器人传感器去噪方法,其特征在于,步骤s1中的预处理具体包括:
3.根据权利要求2所述的一种基于大模型的机器人传感器去噪方法,其特征在于,步骤s2中预训练模型为在大规模文本语料上训练得到的语言模型;冻结部分参数指的是,冻结预训练模型的主体参数,调整与去噪任务相关层的参数。
4.根据权利要求3所述的一种基于大模型的机器人传感器去噪方法,其特征在于,步骤s3具体包括以下步骤:
5.根据权利要求1所述的一种基于大模型的机器人传感器去噪方法,其特征在于,步骤s4中异常分数的计算具体包括:
