1.本发明涉及文本识别技术领域,尤其是一种基于对比学习的文本识别方法与系统。
背景技术:
2.近年来,深度学习已被广泛应用于图像分类、目标检测和分割等领域,随之也带来了数据标注成本高、耗费时间长等问题,如何利用好大量无标注数据进行自监督学习成了当前的研究热点。自监督学习能够从大规模的无标注数据集中挖掘自身的监督信息,并通过这种构造的监督信息对网络进行训练,从而可以学习到对下游任务有价值的表征信息。
3.在半监督计算机视觉应用领域如图像分类、目标检测和分割等利用自监督对比学习表征信息的技术取得了显著成果。然而,在文本识别领域里由于文本序列的特殊性未得到较好的应用。目前大多数文本识别算法仍然依赖于全监督学习,需要大量带标签的数据进行建模。
4.因此,在没有人工监督的条件下如何高效地学习基于序列性的文本信息表征是一个长期存在的问题。
5.当前主流的自监督的学习方法可分为生成式或判别式两大类。生成式方法学习在输入空间中生成或以其他方式建模像素。然而,像素级生成在计算上是昂贵的,并且可能不是表征学习所必需的。判别方法使用类似于监督学习的目标函数来学习表示,其中输入和标签都来自未标记的数据集。许多此类方法都依赖于启发式来设计任务,这可能会限制所学表征的通用性。但是,潜在空间对比学习的判别方法近年来取得了较先进的成果,且对比学习不依赖于复杂的网络结构和昂贵的计算机硬件,它的实现方法简单高效。但是,当前的对比学习方法仅适用于以整张图像为单个实例的图像分类、图像分割和图像识别中,在含有序列性的文本识别方法中表现不佳。
技术实现要素:
6.本发明提出了一种基于对比学习的文本识别方法与系统,以解决上文提到的现有技术的缺陷。
7.在一个方面,本发明提出了一种基于对比学习的文本识别方法,该方法包括以下步骤:
8.s1:获取包含文本信息的无标签的文本样本,以图像的形式将所述文本样本保存为文本图像样本,再对所述文本图像样本中的每个样本进行数据增强获得增强后的样本;
9.s2:将所述增强后的样本输入卷积网络进行识别训练生成识别模型,再基于所述识别模型构建基本编码器来计算并输出所述增强后的样本的特征序列;
10.s3:将所述特征序列输入实例映射函数生成对应的实例,并将所述实例映射为多个子实例,每个子实例包括正样本对和负样本对,将所有的子实例作为对比损失函数中的子元素进行对比学习,同时将所述对比学习的结果反馈到所述卷积网络用于更新所述卷积
网络;
11.s4:获取包含文本信息的有标签的文本样本,以图像的形式将所述文本样本保存为有标签文本图像样本,将所述有标签文本图像样本输入所述基本编码器,对所述卷积网络的参数进行调节,直到所述识别模型收敛。
12.以上方法将每个实例输出的序列特征图映射为多个子实例并按顺序索引,子实例的个数取决于图像的宽度。将每对增强后的视图分成的多个子实例产生正样本对和负样本对,将这些正负样本对作为对比学习的元素进行计算。本方法将对比学习应用于序列的各个元素,同时保持有关其顺序的信息,将每个图像输出的特征图视为一系列单独的子实例,使得每个图像产生多个子实例正负样本作为对比学习的元素,通过自监督对比学习的方法进行建模有效降文本识别的误检率,充分利用无标注数据学习有效的表征信息。本方法能够最大化同一文本图像的不同增强视图的表示之间的一致性,并将它们与其他不同类型的数据集图像的表示区分开来。
13.在具体的实施例中,所述数据增强包括:模糊、高斯噪声添加、明亮度调节、边缘填充、仿射变换、水平裁剪和垂直裁剪。
14.在具体的实施例中,所述文本图像样本包括图像序列的集合,所述图像序列包括多个按顺序排列的子图像,所述子图像的个数根据所述图像序列的宽度设定。
15.在具体的实施例中,所述基本编码器包括resnet-34主干网络。
16.在具体的实施例中,所述基本编码器的编码器头部使用网络层变换表示形式来处理所述特征序列中大小不同的序列。
17.在具体的实施例中,所述将所述特征序列输入实例映射函数生成对应的实例,并将所述实例映射为多个子实例,每个子实例包括正样本对和负样本对,具体包括:
18.利用实例映射函数对所述特征序列生成对应的实例,并将每个所述实例映射为多个子实例并按顺序标注索引;
19.对每一个实例获取对齐的正样本对和负样本对,并对所述每一个实例添加不同的两个集合分别储存所述正样本对和所述负样本对,获得所述正样本对的集合以及所述负样本对的集合,记录每个集合的大小。用于使相同的索引调用同一文本图像样本的对应序列。
20.在具体的实施例中,所述将所述有标签文本图像样本输入所述基本编码器之后还包括使用ctc解码器对所述基本编码器的输出进行解码。
21.在具体的实施例中,所述对比学习包括:
22.将所述正样本对和所述负样本对作为所述对比损失函数中的子元素,从而计算所述对比损失函数;
23.通过所述对比损失函数提高同一个所述实例对应的所述特征序列的相似度,提高同一个所述实例对应的所述正样本对的相似度,同时降低所述正样本对和所述负样本对以及不同所述负样本对之间的相似度。
24.根据本发明的第二方面,提出了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机处理器执行时实施上述方法。
25.根据本发明的第三方面,提出一种基于对比学习的文本识别系统,该系统包括:
26.文本图像获取与增强模块:配置用于获取包含文本信息的无标签的文本样本,以图像的形式将所述文本样本保存为文本图像样本,再对所述文本图像样本中的每个样本进
行数据增强获得增强后的样本;
27.特征提取模块:配置用于将所述增强后的样本输入卷积网络进行识别训练生成识别模型,再基于所述识别模型构建基本编码器来计算并输出所述增强后的样本的特征序列;
28.正负样本对比学习模块:配置用于将所述特征序列输入实例映射函数生成对应的实例,并将所述实例映射为多个子实例,每个子实例包括正样本对和负样本对,将所有的子实例作为对比损失函数中的子元素进行对比学习,同时将所述对比学习的结果反馈到所述卷积网络用于更新所述卷积网络;
29.识别模型调节模块:配置用于获取包含文本信息的有标签的文本样本,以图像的形式将所述文本样本保存为有标签文本图像样本,将所述有标签文本图像样本输入所述基本编码器,对所述卷积网络的参数进行调节,直到所述识别模型收敛。
30.本发明将每个实例输出的序列特征图映射为多个子实例并按顺序索引,子实例的个数取决于图像的宽度。将每对增强后的视图分成的多个子实例产生正样本对和负样本对,将这些正负样本对作为对比学习的元素进行计算。本方法将对比学习应用于序列的各个元素,同时保持有关其顺序的信息,将每个图像输出的特征图视为一系列单独的子实例,使得每个图像产生多个子实例正负样本作为对比学习的元素,通过自监督对比学习的方法进行建模有效降文本识别的误检率,充分利用无标注数据学习有效的表征信息。本方法能够最大化同一文本图像的不同增强视图的表示之间的一致性,并将它们与其他不同类型的数据集图像的表示区分开来。
附图说明
31.包括附图以提供对实施例的进一步理解并且附图被并入本说明书中并且构成本说明书的一部分。附图图示了实施例并且与描述一起用于解释本发明的原理。将容易认识到其它实施例和实施例的很多预期优点,因为通过引用以下详细描述,它们变得被更好地理解。通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本技术的其它特征、目的和优点将会变得更明显:
32.图1是本技术可以应用于其中的示例性系统架构图;
33.图2是本发明的一个实施例的一种基于对比学习的文本识别方法的流程图;
34.图3是本发明的一个实施例的一种基于对比学习的文本识别系统的框架图;
35.图4是适于用来实现本技术实施例的电子设备的计算机系统的结构示意图。
具体实施方式
36.下面结合附图和实施例对本技术作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
37.需要说明的是,在不冲突的情况下,本技术中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本技术。
38.图1示出了可以应用本技术实施例的一种基于对比学习的文本识别方法的示例性系统架构100。
39.如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
40.用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种应用,例如数据处理类应用、数据可视化类应用、网页浏览器应用等。
41.终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
42.服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上展示的文本图像样本提供支持的后台信息处理服务器。后台信息处理服务器可以对获取的特征序列进行处理,并生成处理结果(例如识别模型)。
43.需要说明的是,本技术实施例所提供的方法可以由服务器105执行,也可以由终端设备101、102、103执行,相应的装置一般设置于服务器105中,也可以设置于终端设备101、102、103中。
44.需要说明的是,服务器可以是硬件,也可以是软件。当服务器为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
45.应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
46.根据本发明的一个实施例的一种基于对比学习的文本识别方法,图2示出了根据本发明的实施例的一种基于对比学习的文本识别方法的流程图。如图2所示,该方法包括以下步骤:
47.s1:获取包含文本信息的无标签的文本样本,以图像的形式将所述文本样本保存为文本图像样本,再对所述文本图像样本中的每个样本进行数据增强获得增强后的样本;
48.s2:将所述增强后的样本输入卷积网络进行识别训练生成识别模型,再基于所述识别模型构建基本编码器来计算并输出所述增强后的样本的特征序列;
49.s3:将所述特征序列输入实例映射函数生成对应的实例,并将所述实例映射为多个子实例,每个子实例包括正样本对和负样本对,将所有的子实例作为对比损失函数中的子元素进行对比学习,同时将所述对比学习的结果反馈到所述卷积网络用于更新所述卷积网络;
50.s4:获取包含文本信息的有标签的文本样本,以图像的形式将所述文本样本保存为有标签文本图像样本,将所述有标签文本图像样本输入所述基本编码器,对所述卷积网络的参数进行调节,直到所述识别模型收敛。
51.以上方法将每个实例输出的序列特征图映射为多个子实例并按顺序索引,子实例的个数取决于图像的宽度。将每对增强后的视图分成的多个子实例产生正样本对和负样本
对,将这些正负样本对作为对比学习的元素进行计算。本方法将对比学习应用于序列的各个元素,同时保持有关其顺序的信息,将每个图像输出的特征图视为一系列单独的子实例,使得每个图像产生多个子实例正负样本作为对比学习的元素,通过自监督对比学习的方法进行建模有效降文本识别的误检率,充分利用无标注数据学习有效的表征信息。本方法能够最大化同一文本图像的不同增强视图的表示之间的一致性,并将它们与其他不同类型的数据集图像的表示区分开来。
52.在具体的实施例中,所述数据增强包括:模糊、高斯噪声添加、明亮度调节、边缘填充、仿射变换、水平裁剪和垂直裁剪。
53.在具体的实施例中,所述文本图像样本包括图像序列的集合,所述图像序列包括多个按顺序排列的子图像,所述子图像的个数根据所述图像序列的宽度设定。
54.在具体的实施例中,所述基本编码器包括resnet-34主干网络。
55.在具体的实施例中,所述基本编码器的编码器头部使用网络层变换表示形式来处理所述特征序列中大小不同的序列。
56.在具体的实施例中,所述将所述特征序列输入实例映射函数生成对应的实例,并将所述实例映射为多个子实例,每个子实例包括正样本对和负样本对,具体包括:
57.利用实例映射函数对所述特征序列生成对应的实例,并将每个所述实例映射为多个子实例并按顺序标注索引;
58.对每一个实例获取对齐的正样本对和负样本对,并对所述每一个实例添加不同的两个集合分别储存所述正样本对和所述负样本对,获得所述正样本对的集合以及所述负样本对的集合,记录每个集合的大小。
59.在具体的实施例中,所述将所述有标签文本图像样本输入所述基本编码器之后还包括使用ctc解码器对所述基本编码器的输出进行解码。
60.在具体的实施例中,所述对比学习包括:
61.将所述正样本对和所述负样本对作为所述对比损失函数中的子元素,从而计算所述对比损失函数;
62.通过所述对比损失函数提高同一个所述实例对应的所述特征序列的相似度,提高同一个所述实例对应的所述正样本对的相似度,同时降低所述正样本对和所述负样本对以及不同所述负样本对之间的相似度。
63.本方法的关键思想是将对比学习应用于序列的各个元素,同时保持有关其顺序的信息,将每个实例输出的序列特征图映射为多个子实例并按顺序索引,子实例的个数取决于图像的宽度。本方案将每对增强后的视图分成的多个子实例产生正样本对和负样本对,将这些正负样本对作为对比学习的元素进行计算。
64.在具体的实施例中,本方案的步骤如下所示:
65.步骤s1:首先对图像文本数据进行增强,增强的方法包括模糊、高斯噪声添加、明亮度调节、边缘填充、仿射变换、水平裁剪、垂直裁剪等不改变文本序列的数据增强方法,其中水平裁剪率不超过2%,垂直裁剪率不超过10%。
66.步骤s2:将resnet-34主干网络作为识别网络的基本编码器f(.)。对每个文本图像xi根据步骤s1的增强方法做随机扩充生成的图像对,其中c为输入的通道数,h为图像高度,wi为每个图像的宽度。文本图像增强对经过编码器输出特征序列
其中f为特征维度,ti为序列的列数,ti的大小由图像的宽度决定。
67.步骤s3:在步骤s2中创建的编码器头部使用网络层变换表示形式来处理大小不同的特征序列并表示该阶段的输出,其中f
′
是经过变换后的特征维度。
68.步骤s4:通过实例映射函数h(.)将步骤s3输出的ti序列生成对应的t
′i实例。将生成的实例被用作对比损失中的子元素,将每一个批次(也就是batchsize)的所有实例分别获取到两个对齐的图像帧集合qa,qb中,每个集合的大小为使相同的索引调用同一输入图像的对应序列。
69.步骤s5:通过索引同一实例生成的正样本对的帧序列集合qa,qb对应的特征,使对比损失函数中的差异更小、对应序列的相似度更高,并使除了正样本对之外的其他的负样本差异更大。总损失函数如下公式所示:
[0070][0071]
其中,l(.)是对比估计损失函数:
[0072][0073]
步骤s6:在步骤s2设计的编码器f(.)后面接一个ctc解码器,并将编码器的参数固定。使用少量有标注的数据在所设计的网络中进行微调直到模型收敛。
[0074]
图3示出了本发明的一个实施例的一种基于对比学习的文本识别系统的框架图。该系统包括文本图像获取与增强模块301、特征提取模块302、正负样本对比学习模块303和识别模型调节模块304。
[0075]
在具体的实施例中,文本图像获取与增强模块301被配置用于获取包含文本信息的无标签的文本样本,以图像的形式将所述文本样本保存为文本图像样本,再对所述文本图像样本中的每个样本进行数据增强获得增强后的样本;
[0076]
特征提取模块302被配置用于将所述增强后的样本输入卷积网络进行识别训练生成识别模型,再基于所述识别模型构建基本编码器来计算并输出所述增强后的样本的特征序列;
[0077]
正负样本对比学习模块303被配置用于将所述特征序列输入实例映射函数生成对应的实例,并将所述实例映射为多个子实例,每个子实例包括正样本对和负样本对,将所有的子实例作为对比损失函数中的子元素进行对比学习,同时将所述对比学习的结果反馈到所述卷积网络用于更新所述卷积网络;
[0078]
识别模型调节模块304被配置用于获取包含文本信息的有标签的文本样本,以图像的形式将所述文本样本保存为有标签文本图像样本,将所述有标签文本图像样本输入所述基本编码器,对所述卷积网络的参数进行调节,直到所述识别模型收敛。
[0079]
本系统将每个实例输出的序列特征图映射为多个子实例并按顺序索引,子实例的个数取决于图像的宽度。将每对增强后的视图分成的多个子实例产生正样本对和负样本对,将这些正负样本对作为对比学习的元素进行计算。本系统将对比学习应用于序列的各
个元素,同时保持有关其顺序的信息,将每个图像输出的特征图视为一系列单独的子实例,使得每个图像产生多个子实例正负样本作为对比学习的元素,通过自监督对比学习的方法进行建模有效降文本识别的误检率,充分利用无标注数据学习有效的表征信息。能够最大化同一文本图像的不同增强视图的表示之间的一致性,并将它们与其他不同类型的数据集图像的表示区分开来。
[0080]
下面参考图4,其示出了适于用来实现本技术实施例的电子设备的计算机系统400的结构示意图。图4示出的电子设备仅仅是一个示例,不应对本技术实施例的功能和使用范围带来任何限制。
[0081]
如图4所示,计算机系统400包括中央处理单元(cpu)401,其可以根据存储在只读存储器(rom)402中的程序或者从存储部分408加载到随机访问存储器(ram)403中的程序而执行各种适当的动作和处理。在ram 403中,还存储有系统400操作所需的各种程序和数据。cpu 401、rom 402以及ram 403通过总线404彼此相连。输入/输出(i/o)接口405也连接至总线404。
[0082]
以下部件连接至i/o接口405:包括键盘、鼠标等的输入部分406;包括诸如液晶显示器(lcd)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至i/o接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
[0083]
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(cpu)401执行时,执行本技术的方法中限定的上述功能。需要说明的是,本技术所述的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本技术中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本技术中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质,该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。
[0084]
可以以一种或多种程序设计语言或其组合来编写用于执行本技术的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c ,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
[0085]
附图中的流程图和框图,图示了按照本技术各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0086]
描述于本技术实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,并且这些单元的名称在某种情况下并不构成对该单元本身的限定。
[0087]
本发明的实施例还涉及一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机处理器执行时实施上文中的方法。该计算机程序包含用于执行流程图所示的方法的程序代码。需要说明的是,本技术的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。
[0088]
本发明将每个实例输出的序列特征图映射为多个子实例并按顺序索引,子实例的个数取决于图像的宽度。将每对增强后的视图分成的多个子实例产生正样本对和负样本对,将这些正负样本对作为对比学习的元素进行计算。本方法将对比学习应用于序列的各个元素,同时保持有关其顺序的信息,将每个图像输出的特征图视为一系列单独的子实例,使得每个图像产生多个子实例正负样本作为对比学习的元素,通过自监督对比学习的方法进行建模有效降文本识别的误检率,充分利用无标注数据学习有效的表征信息。本方法能够最大化同一文本图像的不同增强视图的表示之间的一致性,并将它们与其他不同类型的数据集图像的表示区分开来。
[0089]
以上描述仅为本技术的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本技术中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本技术中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
转载请注明原文地址:https://win.8miu.com/read-1050069.html