本发明涉及电网,尤其涉及一种面向小样本的电网故障预案实体识别方法及系统。
背景技术:
1、随着我国能源结构的转型、分布式电源的快速发展和特高压交直流大容量输电线路的投运,电网的结构形态和系统特性日趋复杂,使得电网调控业务的难度和复杂度大幅增加。尤其是在电网故障情况下,为保证快速、安全恢复线路供电,维持电网负荷的安全稳定运行,对电网故障处置系统提出了更高的要求。为了应对电网可能发生的一系列紧急情况,电网调度中心会定期根据当地电网情况制定一系列的故障处置预案,作为处置参考。
2、因此,在实际电网故障处置时,快速准确地提取故障预案的关键信息,从而进一步实现故障处置智能化应用的需求极为迫切。而故障预案关键信息的自动提取能够大幅减少调度员的人工查阅工作,为后续的设备关联、操作策略提示导航等应用提供强大的数据支撑。
技术实现思路
1、本部分的目的在于概述本发明的实施例的一些方面以及简要介绍一些较佳实施例。在本部分以及本申请的说明书摘要和发明名称中可能会做些简化或省略以避免使本部分、说明书摘要和发明名称的目的模糊,而这种简化或省略不能用于限制本发明的范围。
2、鉴于上述现有存在的问题,提出了本发明。
3、因此,本发明提供了一种面向小样本的电网故障预案实体识别方法及系统解决电网故障预案样本不足导致电网故障预案实体识别模型训练不充分的问题。
4、为解决上述技术问题,本发明提供如下技术方案:
5、第一方面,本发明提供了一种面向小样本的电网故障预案实体识别方法,包括:
6、获取历史故障数据,设计句式模版,实现第一次样本扩充;
7、通过句法分析技术,替换句式结构,实现第二次样本扩充;
8、通过对电力文本进行无监督微调训练,构建电力领域bert模型;
9、利用电力领域bert模型将电网故障预案文本向量化;
10、基于深度循环神经网络模型识别预案中的关键实体。
11、作为本发明所述的面向小样本的电网故障预案实体识别方法的一种优选方案,其中:所述设计句式模版,包括采用文本相似度算法来来比较新的故障数据和历史故障数据,基于对比数据构建句式模板,文本相似度算法表示为:
12、
13、值的范围为[-1,1],-1为完全不相似,1为完全相似。
14、作为本发明所述的面向小样本的电网故障预案实体识别方法的一种优选方案,其中:所述句法分析技术,采用基于概率的短语结构分析方法,就是在g=(x,v,s,r)的基础上加一个p表示概率,变成g=(x,v,s,r,p)约束如下:
15、
16、即非终结符a的转换生成概率之和为1。
17、作为本发明所述的面向小样本的电网故障预案实体识别方法的一种优选方案,其中:所述通过对电力文本进行无监督微调训练,构建电力领域bert模型,其中无监督微调训练有两个无监督任务分别是预测句子中被掩码的词和预测下一个句子;
18、预测句子中被掩码的词:随机掩盖每一个句子中15%的单词,将其中80%用[mask]token标记,10%随机选取一个词来代替[mask]token,另外10%保持不变,即用句子中原始token。
19、作为本发明所述的面向小样本的电网故障预案实体识别方法的一种优选方案,其中:所述预测下一个句子:将其中50%句子对标记为isnext,即选取的句子b为句子a的下一句,将另外50%句子对标记为notnext,即句子b为从语料库中随机选取的句子。
20、作为本发明所述的面向小样本的电网故障预案实体识别方法的一种优选方案,其中:所述利用电力领域bert模型将需要提取信息的故障预案文本转化为向量形式,包括利用命名实体识别中bioes标注方法对大量历史预案文本中的关键信息进行标注,生成“电网预案命名实体识别训练数据集”;
21、将预案关键信息类别定义为:调度,区域,厂站,变压器,开关,指标,机组,母线,线路,联络,共计10类;
22、调度级别有起始位置b-s、中间内容i-s、结束位置e-s三种标签,加上无意义内容的标签o,共计31个标签,映射为整数l∈[1,31]进行标记,不同场景的子句包含不同的标注内容;
23、利用电力领域bert模型将“电网预案命名实体识别训练数据集”中的中文转为向量,以关键信息类别的“bioes”标签为参考,训练基于深度循环神经网络的“预案关键实体识别模型”。
24、作为本发明所述的面向小样本的电网故障预案实体识别方法的一种优选方案,其中:所述基于深度循环神经网络模型识别预案中的关键实体,假设第(1-1)层共有m个神经元,那么对于第l层的第j个神经元的输出值表示为
25、
26、表示第l层的第j个神经元的加权输入,表示第l-1层的第k个神经元到第l层的第j个神经元的连接权重,表示第l层的第j个神经元的截距项。
27、第二方面,本发明提供了一种面向小样本的电网故障预案实体识别系统,包括:
28、获取模块,获取历史故障数据,设计句式模版,实现第一次样本扩充;
29、替换模块,通过句法分析技术,替换句式结构,实现第二次样本扩充;
30、训练模块,通过对电力文本进行无监督微调训练,构建电力领域bert模型;
31、转化模块,利用电力领域bert模型将需要提取信息的故障预案文本转化为向量形式;
32、识别模块,基于深度循环神经网络模型识别预案中的关键实体。
33、第三方面,本发明提供了一种计算设备,包括:
34、存储器,用于存储程序;
35、处理器,用于执行所述计算机可执行指令,该计算机可执行指令被处理器执行时实现所述面向小样本的电网故障预案实体识别方法的步骤。
36、第四方面,本发明提供了一种计算机可读存储介质,包括:所述程序被处理器执行时,实现所述的面向小样本的电网故障预案实体识别方法的步骤。
37、本发明的有益效果:相比于常规的信息识别、抽取方法,本发明在小样本故障预案数据集的基础上,提出了合理的样本扩充方法,并采用深度学习技术提升了实体识别的准确性,且结合crf技术加强相邻标签间的关系,优化了命名实体识别模型,粒度更细、专业针对性更强,因此对电网故障处置预案的信息识别效果更好。
1.一种面向小样本的电网故障预案实体识别方法,其特征在于,包括:
2.如权利要求1所述的面向小样本的电网故障预案实体识别方法,其特征在于:所述设计句式模版,包括采用文本相似度算法来比较新的故障数据和历史故障数据,基于对比数据构建句式模板,文本相似度算法表示为:
3.如权利要求1或2所述的面向小样本的电网故障预案实体识别方法,其特征在于:所述句法分析技术,采用基于概率的短语结构分析,就是在g=(x,v,s,r)的基础上加一个p表示概率,变成g=(x,v,s,r,p)约束如下:
4.如权利要求3所述的面向小样本的电网故障预案实体识别方法,其特征在于:所述通过对电力文本进行无监督微调训练,构建电力领域bert模型,其中无监督微调训练有两个无监督任务分别是预测句子中被掩码的词和预测下一个句子;
5.如权利要求4所述的面向小样本的电网故障预案实体识别方法,其特征在于:所述预测下一个句子:将其中50%句子对标记为isnext,即选取的句子b为句子a的下一句,将另外50%句子对标记为notnext,即句子b为从语料库中随机选取的句子。
6.如权利要求5所述的面向小样本的电网故障预案实体识别方法,其特征在于:所述利用电力领域bert模型将需要提取信息的故障预案文本转化为向量形式,包括利用命名实体识别中bioes标注方法对大量历史预案文本中的关键信息进行标注,生成“电网预案命名实体识别训练数据集”;
7.如权利要求6所述的面向小样本的电网故障预案实体识别方法,其特征在于:所述基于深度循环神经网络模型识别预案中的关键实体,假设第(1-1)层共有m个神经元,那么对于第l层的第j个神经元的输出值表示为
8.一种基于权利要求1~7任一所述的面向小样本的电网故障预案实体识别方法的评估系统,其特征在于:
9.一种电子设备,其特征在于,包括:
10.一种计算机可读存储介质,其存储有程序,其特征在于,所述程序被处理器执行时,实现如权利要求1-7任一项所述的面向小样本的电网故障预案实体识别方法的步骤。
