本技术涉及计算机领域,具体而言,涉及一种特定数据的处理方法和装置、存储介质及电子设备。
背景技术:
1、在软件开发完成准备上线以前,通常需要对软件进行特定数据测试,确定软件在运行的过程中,是否会产生特定数据。具体的,在对软件进行测试的过程中,会得到大量的日志,进而在日志中检测是否存在特定数据。相关技术中,在检测到特定数据以后,会将检测到的所有特定数据存储至数据库,以供后续开发人员后续对特定数据进行消除处理。
2、针对相关技术中,由于将查到的所有特定数据均存储至数据库,导致数据库中存储了较多的特定数据的技术问题,目前尚未提出有效的解决方案。
技术实现思路
1、本技术实施例提供了一种特定数据的处理方法和装置、存储介质及电子设备,以至少解决由于将查到的所有特定数据均存储至数据库,导致数据库中存储了较多的特定数据的技术问题。
2、根据本技术实施例的一个方面,提供了一种特定数据的处理方法,包括:获取目标程序测试时产生的日志集合;在所述日志集合中查找包含特定数据的日志;在查找到包含特定数据的日志的情况下,对所述查找到的包含特定数据的日志中相同类型的日志进行去重处理,得到去重后的一组日志;存储所述一组日志中包含的特定数据,其中,所述一组日志中包含的特定数据是待处理的特定数据。
3、在一个示例性的实施例中,对所述查找到的包含特定数据的日志中相同类型的日志进行去重处理,得到去重后的一组日志,包括:对所述查找到的包含特定数据的日志进行分类,得到一类或多类日志;对所述一类或多类日志中的每一类日志执行以下操作,得到去重后的所述一组日志,其中,在执行以下操作时,所述每一类日志为当前类日志:在所述当前类日志中的日志的数量大于或等于2的情况下,获取所述当前类日志中的每两个日志之间的相似度;在所述当前类日志中存在多个日志、且所述多个日志中的每两个日志之间的所述相似度大于或等于预设的第一相似度阈值的情况下,将所述多个日志中的一个日志进行保留,删除所述多个日志中除所述一个日志之外的日志。
4、在一个示例性的实施例中,所述对所述查找到的包含特定数据的日志进行分类,得到一类或多类日志,包括:根据所述查找到的包含特定数据的日志的日志关键词,对所述查找到的包含特定数据的日志进行分类,得到所述一类或多类日志。
5、在一个示例性的实施例中,所述存储所述一组日志中包含的特定数据之后,所述方法还包括:在存储的所述一组日志中包含的特定数据中获取目标日志中包含的目标特定数据;生成特定数据处理任务,其中,所述特定数据处理任务用于指示对所述目标特定数据进行消除处理。
6、在一个示例性的实施例中,在生成特定数据处理任务之后,所述方法还包括:在所述特定数据处理任务被标记为已完成的情况下,在所述目标日志中获取目标功能函数的标识,其中,所述目标功能函数是所述目标程序测试时执行的功能函数,所述目标功能函数用于在输入参数为目标参数的情况下被执行时产生包含所述目标特定数据的所述目标日志;根据所述目标功能函数的标识,获取所述目标功能函数在被执行时使用的所述目标参数;将所述目标参数作为所述目标功能函数的输入参数,执行所述目标功能函数,并获取执行所述目标功能函数所产生的当前日志;根据所述目标日志和所述当前日志,确定所述目标特定数据是否被成功执行所述消除处理。
7、在一个示例性的实施例中,所述根据所述目标日志和所述当前日志,确定所述目标特定数据是否被成功执行所述消除处理,包括:获取所述目标日志和所述当前日志之间的相似度;在所述目标日志和所述当前日志之间的相似度大于或等于预设的第二相似度阈值的情况下,判断所述当前日志中是否包含特定数据;在判断出所述当前日志中不包含特定数据的情况下,确定所述目标特定数据被成功执行所述消除处理。
8、在一个示例性的实施例中,所述方法还包括:在确定所述目标特定数据被成功执行所述消除处理的情况下,结束所述特定数据处理任务;在确定所述目标特定数据未被成功执行所述消除处理的情况下,重新提交所述特定数据处理任务,其中,重新提交的所述特定数据处理任务是待执行的任务。
9、在一个示例性的实施例中,所述根据所述目标功能函数的标识,获取所述目标功能函数在被执行时使用的所述目标参数,包括:在函数调用链上获取与所述目标功能函数的标识对应的所述目标参数,其中,所述函数调用链上记录了所述目标程序测试时执行的各个功能函数的标识以及执行所述各个功能函数时所使用的输入参数。
10、在一个示例性的实施例中,在所述函数调用链上还记录了所述各个功能函数的调用关系、且所述各个功能函数的调用关系包括与所述目标功能函数具有调用关系的上级功能函数的情况下,所述方法还包括:在所述函数调用链上获取与所述上级功能函数的标识对应的输入参数,得到上级输入参数,其中,所述上级功能函数在被执行时调用了所述目标功能函数;将所述上级输入参数作为所述上级功能函数的输入参数,执行所述上级功能函数,并获取执行所述上级功能函数所产生的第一日志;所述根据所述目标日志和所述当前日志,确定所述目标特定数据是否被成功执行所述消除处理,包括:在所述目标日志和所述当前日志之间的相似度大于或等于预设的第二相似度阈值、且所述第一日志和第二日志之间的相似度大于或等于预设的第三相似度阈值的情况下,判断所述当前日志中是否包含特定数据,其中,所述第二日志是在生成所述特定数据处理任务之前将所述上级输入参数作为所述上级功能函数的输入参数,执行所述上级功能函数所产生的历史日志;在判断出所述当前日志中不包含特定数据的情况下,确定所述目标特定数据被成功执行所述消除处理。
11、在一个示例性的实施例中,在生成特定数据处理任务之后,所述方法还包括:在所述特定数据处理任务被标记为已完成的情况下,在所述目标日志中获取目标功能函数的标识,其中,所述目标功能函数是所述目标程序测试时执行的功能函数,所述目标功能函数用于在输入参数为目标参数的情况下被执行时产生包含所述目标特定数据的所述目标日志;根据所述目标功能函数的标识,获取所述目标功能函数在被执行时使用的所述目标参数;将所述目标参数作为所述目标功能函数的输入参数,执行所述目标功能函数,并获取执行所述目标功能函数所产生的当前日志;判断所述当前日志中是否包含特定数据,并在判断出所述当前日志中不包含特定数据的情况下,确定所述目标特定数据被成功执行所述消除处理。
12、在一个示例性的实施例中,所述获取目标程序测试时产生的日志集合之前,所述方法还包括:在检测到所述目标程序被执行测试的情况下,生成特定数据扫描任务,其中,所述特定数据扫描任务用于触发执行获取所述目标程序测试时产生的日志集合的步骤、执行在所述日志集合中查找包含特定数据的日志的步骤、执行对所述查找到的包含特定数据的日志中相同类型的日志进行去重处理的步骤、以及执行存储所述一组日志中包含的特定数据的步骤。
13、在一个示例性的实施例中,所述获取目标程序测试时产生的日志集合,包括:获取处于测试状态的目标任务,其中,所述目标任务用于指示对所述目标程序进行测试,所述目标任务中记录有目标ip地址和日志目录地址,所述目标ip地址是目标服务器的地址,待测试的所述目标程序部署在所述目标服务器上,所述日志目录地址用于指示所述目标服务器上的目标日志目录,所述目标日志目录用于存储所述目标程序测试时产生的所述日志集合;根据所述目标ip地址和所述日志目录地址,访问所述目标服务器上的所述目标日志目录,从所述目标日志目录中获取所述日志集合。
14、根据本技术实施例的另一方面,还提供了一种特定数据的处理装置,包括:获取模块,用于获取目标程序测试时产生的日志集合;查找模块,用于在所述日志集合中查找包含特定数据的日志;去重模块,用于在查找到包含特定数据的日志的情况下,对所述查找到的包含特定数据的日志中相同类型的日志进行去重处理,得到去重后的一组日志;存储模块,用于存储所述一组日志中包含的特定数据,其中,所述一组日志中包含的特定数据是待处理的特定数据。
15、作为一种可选的示例,去重模块,包括:分类单元,用于对所述查找到的包含特定数据的日志进行分类,得到一类或多类日志;去重单元,用于对所述一类或多类日志中的每一类日志执行以下操作,得到去重后的所述一组日志,其中,在执行以下操作时,所述每一类日志为当前类日志:在所述当前类日志中的日志的数量大于或等于2的情况下,获取所述当前类日志中的每两个日志之间的相似度;在所述当前类日志中存在多个日志、且所述多个日志中的每两个日志之间的所述相似度大于或等于预设的第一相似度阈值的情况下,将所述多个日志中的一个日志进行保留,删除所述多个日志中除所述一个日志之外的日志。
16、作为一种可选的示例,分类单元,用于通过以下方式对所述查找到的包含特定数据的日志进行分类,得到一类或多类日志:根据所述查找到的包含特定数据的日志的日志关键词,对所述查找到的包含特定数据的日志进行分类,得到所述一类或多类日志。
17、作为一种可选的示例,上述装置还包括:第一处理模块,用于在存储所述一组日志中包含的特定数据之后,在存储的所述一组日志中包含的特定数据中获取目标日志中包含的目标特定数据;生成特定数据处理任务,其中,所述特定数据处理任务用于指示对所述目标特定数据进行消除处理。
18、作为一种可选的示例,上述装置还包括第二处理模块,其中,第二处理模块包括:第一获取单元,用于在生成特定数据处理任务之后,在所述特定数据处理任务被标记为已完成的情况下,在所述目标日志中获取目标功能函数的标识,其中,所述目标功能函数是所述目标程序测试时执行的功能函数,所述目标功能函数用于在输入参数为目标参数的情况下被执行时产生包含所述目标特定数据的所述目标日志;第二获取单元,用于根据所述目标功能函数的标识,获取所述目标功能函数在被执行时使用的所述目标参数;第三获取单元,用于将所述目标参数作为所述目标功能函数的输入参数,执行所述目标功能函数,并获取执行所述目标功能函数所产生的当前日志;第一确定单元,用于根据所述目标日志和所述当前日志,确定所述目标特定数据是否被成功执行所述消除处理。
19、作为一种可选的示例,上述第一确定单元,用于通过以下方式根据所述目标日志和所述当前日志,确定所述目标特定数据是否被成功执行所述消除处理:获取所述目标日志和所述当前日志之间的相似度;在所述目标日志和所述当前日志之间的相似度大于或等于预设的第二相似度阈值的情况下,判断所述当前日志中是否包含特定数据;在判断出所述当前日志中不包含特定数据的情况下,确定所述目标特定数据被成功执行所述消除处理。
20、作为一种可选的示例,第二处理模块,还包括处理单元,用于在确定所述目标特定数据被成功执行所述消除处理的情况下,结束所述特定数据处理任务;在确定所述目标特定数据未被成功执行所述消除处理的情况下,重新提交所述特定数据处理任务,其中,重新提交的所述特定数据处理任务是待执行的任务。
21、作为一种可选的示例,第二获取单元用于通过以下方式根据所述目标功能函数的标识,获取所述目标功能函数在被执行时使用的所述目标参数:在函数调用链上获取与所述目标功能函数的标识对应的所述目标参数,其中,所述函数调用链上记录了所述目标程序测试时执行的各个功能函数的标识以及执行所述各个功能函数时所使用的输入参数。
22、作为一种可选的示例,上述第二处理模块,还包括:第四获取单元,用于在所述函数调用链上还记录了所述各个功能函数的调用关系、且所述各个功能函数的调用关系包括与所述目标功能函数具有调用关系的上级功能函数的情况下,在所述函数调用链上获取与所述上级功能函数的标识对应的输入参数,得到上级输入参数,其中,所述上级功能函数在被执行时调用了所述目标功能函数;将所述上级输入参数作为所述上级功能函数的输入参数,执行所述上级功能函数,并获取执行所述上级功能函数所产生的第一日志;第一确定单元,用于通过以下方式根据所述目标日志和所述当前日志,确定所述目标特定数据是否被成功执行所述消除处理:在所述目标日志和所述当前日志之间的相似度大于或等于预设的第二相似度阈值、且所述第一日志和第二日志之间的相似度大于或等于预设的第三相似度阈值的情况下,判断所述当前日志中是否包含特定数据,其中,所述第二日志是在生成所述特定数据处理任务之前将所述上级输入参数作为所述上级功能函数的输入参数,执行所述上级功能函数所产生的历史日志;在判断出所述当前日志中不包含特定数据的情况下,确定所述目标特定数据被成功执行所述消除处理。
23、作为一种可选的示例,上述装置还包括:第三处理模块,其中,第三处理模块包括:第一获取单元、第二获取单元、第三获取单元、第二确定单元;其中,第二确定单元,用于判断所述当前日志中是否包含特定数据,并在判断出所述当前日志中不包含特定数据的情况下,确定所述目标特定数据被成功执行所述消除处理。
24、作为一种可选的示例,上述装置还包括:生成模块,用于在获取目标程序测试时产生的日志集合之前,在检测到所述目标程序被执行测试的情况下,生成特定数据扫描任务,其中,所述特定数据扫描任务用于触发执行获取所述目标程序测试时产生的日志集合的步骤、执行在所述日志集合中查找包含特定数据的日志的步骤、执行对所述查找到的包含特定数据的日志中相同类型的日志进行去重处理的步骤、以及执行存储所述一组日志中包含的特定数据的步骤。
25、作为一种可选的示例,获取模块,用于通过以下方式获取目标程序测试时产生的日志集合:获取处于测试状态的目标任务,其中,所述目标任务用于指示对所述目标程序进行测试,所述目标任务中记录有目标ip地址和日志目录地址,所述目标ip地址是目标服务器的地址,待测试的所述目标程序部署在所述目标服务器上,所述日志目录地址用于指示所述目标服务器上的目标日志目录,所述目标日志目录用于存储所述目标程序测试时产生的所述日志集合;根据所述目标ip地址和所述日志目录地址,访问所述目标服务器上的所述目标日志目录,从所述目标日志目录中获取所述日志集合。
26、根据本技术实施例的又一方面,还提供了一种计算机可读的存储介质,该计算机可读的存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述特定数据的处理方法。
27、根据本技术实施例的又一方面,提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行如以上特定数据的处理方法。
28、根据本技术实施例的又一方面,还提供了一种电子设备,包括存储器和处理器,上述存储器中存储有计算机程序,上述处理器被设置为通过所述计算机程序执行上述的特定数据的处理方法。
29、在本技术实施例中,在通过日志集合查找到包含特定数据的日志以后,并非将所有的特定数据均存储至数据库,而是对查找到的包含特定数据的日志中相同类型的日志进行去重处理,进而存储去重后得到的一组日志中包含的特定数据,从而避免了数据库中存储较多的特定数据,缓解了数据库的数据存储压力,解决了由于将查到的所有特定数据均存储起来,导致数据库中存储了较多的特定数据的技术问题,此外,由于每一个特定数据对应一个日志,进而避免了开发人员在后续对特定数据进行消除处理的时候进行重复的消除处理,提高了消除处理的效率。
1.一种特定数据的处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述对所述查找到的包含特定数据的日志中相同类型的日志进行去重处理,得到去重后的一组日志,包括:
3.根据权利要求2所述的方法,其特征在于,所述对所述查找到的包含特定数据的日志进行分类,得到一类或多类日志,包括:
4.根据权利要求1所述的方法,其特征在于,所述存储所述一组日志中包含的特定数据之后,所述方法还包括:
5.根据权利要求4所述的方法,其特征在于,在生成特定数据处理任务之后,所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述根据所述目标日志和所述当前日志,确定所述目标特定数据是否被成功执行所述消除处理,包括:
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:
8.根据权利要求5所述的方法,其特征在于,所述根据所述目标功能函数的标识,获取所述目标功能函数在被执行时使用的所述目标参数,包括:
9.根据权利要求8所述的方法,其特征在于,
10.根据权利要求4所述的方法,其特征在于,在生成特定数据处理任务之后,所述方法还包括:
11.根据权利要求1至10中任一项所述的方法,其特征在于,所述获取目标程序测试时产生的日志集合之前,所述方法还包括:
12.根据权利要求1至10中任一项所述的方法,其特征在于,所述获取目标程序测试时产生的日志集合,包括:
13.一种特定数据的处理装置,其特征在于,包括:
14.一种计算机可读的存储介质,其特征在于,所述计算机可读的存储介质包括存储的程序,其中,所述程序可被终端设备或计算机运行时执行所述权利要求1至12任一项中所述的方法。
15.一种电子设备,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为通过所述计算机程序执行所述权利要求1至12任一项中所述的方法。
