一种量测数据无损压缩方法

专利检索2026-03-05  3


本发明涉及电力企业智能管理,尤其涉及一种量测数据无损压缩方法。


背景技术:

1、电力大数据不仅仅是智能传感设备、监控设备和通信设备产生的数据,随着太阳能、风能和其他清洁能源接入电网,智能设备也会收集大量的温度数据、湿度数据、天气数据和地理信息数据。

2、目前,这些数据在支持电力负荷预测、异常检测和需求侧管理方面的重要性已得到认可。但大规模的智能电表数据给数据传输线路带来了巨大的压力,并给数据中心带来了巨大的存储成本,同时,智能电表数据的高维性对数据分析和处理存在困难。因此,通过涉及数学、统计学和数据分析的模型和方法压缩智能电表大数据至关重要。

3、数据压缩分为有损压缩和无损压缩,考虑到数据传输带宽和存储空间,现有电网数据压缩大多都是有损压缩,虽然数据压缩时保留大部分数量,提高了数据压缩的效率,但对压缩性能和压缩后的信息丢失量是有影响的。特别是对于智能电网而言,精确完整的原始数据对于检测和处理异常故障尤为重要。


技术实现思路

1、为了解决现有技术中存在的上述问题,本方案的目的在于提出一种量测数据无损压缩方法,将复杂的多源量测数据进行预处理,以降低svd分解的难度;为降低存储空间并提高压缩效率,根据奇异值大小,将奇异值矩阵分为高秩矩阵和低秩矩阵,对高奇异值对应的特征向量以及奇异值矩阵直接存储实现大部分原始数据的压缩;基于原始数据的可恢复性考虑,对低秩矩阵对应的特征向量进行压缩和清洗,并基于压缩和清洗后的向量进行编码压缩,同时计算用于解压的压缩因子作为压缩数据的一部分。

2、在上述技术方案的一种实施方式中,对低秩矩阵对应的每个特征向量进行压缩和噪声清洗,步骤包括:

3、将每个特征向量利用归一化指数函数进行规范化;

4、对规范化处理后的元素,按列输入训练好的压缩和噪声清洗模型,获得每个特征向量对应的压缩和噪声清洗后的向量;

5、所述压缩和噪声清洗模型包括第一循环神经网络、第二循环神经网络,第二循环神经网络的输入数据为第一循环神经网络输入数据的逆向排列,基于第一循环神经网络和第二循环神经网络的输出得到输入数据对应的压缩和噪声清洗后的向量。

6、在上述技术方案的一种实施方式中,所述压缩和噪声清洗模型,结合编码器、压缩因子计算模块、解码器、第三循环神经网络进行训练;

7、压缩和噪声清洗模型的每个输出与一个编码器相连,编码器之间串联,最后一个编码器的输出作为压缩文件,输入到压缩因子计算模块进行压缩因子计算;

8、在训练时,压缩因子计算模块与第一个解码器相连,解码器的数量与编码器相同且串联,除最后一个解码器,其余每个解码器的输出同时为第三循环神经网络的一个输入和后一解码器的输入;

9、在训练中,压缩和噪声清洗模型、第三循环神经网络更新网络参数,各编码器和解码器更新其权重参数,并基于最后一个解码器的输出数据与第一循环神经网络的输入数据计算损失。

10、在上述技术方案的一种实施方式中,量测数据为不同种类的电力测量数据,在压缩之前经过预处理,预处理包括:纠偏处理、时间配准、时序数据填充和数据关联性计算;所述纠偏处理为对从数据源中获取数据时,根据设定的纠偏规则进行处理;所述时间配准为使采样周期不同的数据或通信延迟的数据具有相同的时间周期;所述时序数据填充为使不同测量设备中的时序数据密度一致;所述数据关联性计算为将相同测量设备中的数据融合到同一个类。

11、在上述技术方案的一种实施方式中,采用基于离差概率平方总和最小的最小二乘法处实现时间配准。

12、在上述技术方案的一种实施方式中,采用聚类方法进行时序数据填充。

13、在上述技术方案的一种实施方式中,所述数据关联性计算步骤包括:

14、结合联合概率数据关联算法对每个测量设备进行滤波估计;

15、将滤波估计后的数据采用基于时间序列的聚类分类进行分类;

16、根据分类的结果,计算各个测量设备的测量数据权重;

17、基于测量数据权重对分类结果进行更新,实现将相同量测数据融合到同一个分类。

18、本案还提出了一种计算机可读存储介质,存储有能够被处理器加载并执行上述任一种方法的计算机程序。

19、最后,本案提出了一种量测数据无损压缩系统,所述系统包括svd压缩模块、编码压缩模块;所述svd压缩模块,被配置为将经过预处理后的多源量测数据采用svd分解,对分解得到的奇异值矩阵,根据奇异值大小,将奇异值矩阵分为高秩矩阵和低秩矩阵,对高奇异值对应的特征向量以及奇异值矩阵直接存储;所述编码压缩模块,被配置为对低秩矩阵对应的每个特征向量进行压缩和噪声清洗,基于压缩和噪声清洗后的特征向量进行编码压缩,同时计算用于解压的压缩因子作为压缩数据的一部分。

20、本案的技术效果:通过对电网的不同数据源的基本数据属性进行规范化处理、提取特征向量、求取综合特征向量、特征向量还原等操作,不仅能够全面反馈各个数据源的重要属性,而且能够降低多源数据的冗余度,压缩后的数据信息更加规范、系统、全面且是无损的,为电网预测、维护、检测和异常故障处理提供有效支持。



技术特征:

1.一种多源量测数据无损压缩方法,其特征在于:

2.根据权利要求1所述的方法,其特征在于,对低秩矩阵对应的每个特征向量进行压缩和噪声清洗,步骤包括:

3.根据权利要求2所述的方法,其特征在于:

4.根据权利要求1所述的方法,其特征在于,量测数据为不同种类的电力测量数据,在压缩之前经过预处理,预处理包括:纠偏处理、时间配准、时序数据填充和数据关联性计算;

5.根据权利要求4所述的方法,其特征在于:采用基于离差概率平方总和最小的最小二乘法处实现时间配准。

6.根据权利要求4所述的方法,其特征在于:采用聚类方法进行时序数据填充。

7.根据权利要求4所述的方法,其特征在于,所述数据关联性计算步骤包括:

8.一种计算机可读存储介质,其特征在于:存储有能够被处理器加载并执行如权利要求1至7中任一种方法的计算机程序。

9.一种量测数据无损压缩系统,其特征在于,所述系统包括svd压缩模块、编码压缩模块;


技术总结
本案涉及一种量测数据无损压缩方法,属于电力企业智能管理,用于解决现有电网数据大多都是有损压缩,不利于电网预测、维护、检测和异常故障处理。本方案将复杂的多源量测数据进行预处理,以降低SVD分解的难度;为降低存储空间并提高压缩效率,根据奇异值大小,将奇异值矩阵分为低秩矩阵和高秩矩阵,对高奇异值对应的特征向量以及奇异值矩阵直接存储实现大部分原始数据的压缩;基于原始数据的可恢复性考虑,对低秩矩阵对应的特征向量进行压缩和清洗,然后基于去噪和清洗后的数据进行编码压缩,同时计算用于解压的压缩因子作为压缩数据的一部分。

技术研发人员:周翊民,杨曙东
受保护的技术使用者:中国科学院深圳先进技术研究院
技术研发日:
技术公布日:2024/5/29
转载请注明原文地址:https://win.8miu.com/read-1162107.html

最新回复(0)