数据处理方法、系统、设备及存储介质与流程

专利检索2026-09-19  10


本申请涉及人工智能,具体地,涉及一种数据处理方法、系统、设备及存储介质。


背景技术:

1、随着人工智能技术的快速发展,其中,ai加速器作为一种硬件加速器,能够加速人工智能的应用,已经越来越多地应用到各个不同领域中,尤其是物联网和其他数据密集型或传感器驱动任务的领域。其中,ai加速器性能与三大因素相关:算法、数据与算力,数据为算法提供“学习"的来源, 也是算法所应用的对象; 硬件则为算法的实际运行提供算力支撑,算力是指处理信息的能力。在数据量越来越大的过程中,为了提高对海量数据的处理效率和性能,如何利用加速器平台对数据进行处理的研究显得尤为重要。

2、目前,相关技术中采用单一的(嵌入式神经网络加速处理器(networkaccelerator,nacc)处理数据,然而随着神经网络的网络结构越深层,模型参数量越来越大,每个nacc在数据处理过程中,均需要频繁的访问片外存储,使得路径延时更大,且执行时间较长,导致数据的处理效率较低。


技术实现思路

1、本申请实施例中提供了一种数据处理方法、系统、设备及存储介质。

2、本申请实施例的第一个方面,提供了一种数据处理方法,包括:

3、控制器获取待处理数据,并对所述待处理数据进行识别,确定待广播数据和待传输数据;所述控制器与通过第一总线连接的多个加速处理器构成一个分组,多个通过第二总线连接的所述控制器构成一个集群;

4、所述控制器采用数据广播的方式向与所述控制器连接的多个加速处理器广播所述待广播数据,并向所述多个加速处理器传输对应的所述待传输数据;

5、多个所述加速处理器接收所述待广播数据和对应的待传输数据,对所述待广播数据和所述待传输数据并行计算得到计算结果,将所述计算结果传输至所述控制器;

6、所述控制器发送所述计算结果。

7、在本申请一个可选的实施例中,所述控制器对所述待处理数据进行识别处理,确定待广播数据和待传输数据,包括:

8、对所述待处理数据进行识别处理,确定多个加速处理器需要共用的数据;

9、将所述需要共用的数据作为所述待广播数据,并将所述待处理数据中除所述待广播数据之外的其余数据作为所述待传输数据。

10、在本申请一个可选的实施例中,所述控制器采用数据广播的方式向与所述控制器连接的多个加速处理器广播所述待广播数据,包括:

11、根据所述待广播数据,确定所述待广播数据所属的分组标识和对应的加速处理器标识;

12、基于所述的分组标识和加速处理器标识,确定所述控制器待广播的加速处理器;

13、向与所述控制器连接的多个加速处理器广播所述待广播数据。

14、在本申请一个可选的实施例中,向所述多个加速处理器传输对应的所述待传输数据,包括:

15、所述控制器确定每个加速处理器的加速器标识和对应的待传输数据;

16、将所述待传输数据传输至与所述加速器标识对应的加速处理器。

17、在本申请一个可选的实施例中,对所述待广播数据和所述待传输数据并行计算得到计算结果,包括:

18、对于每个加速处理器,基于所述待广播数据和对应的待传输数据进行卷积运算,得到子计算结果;

19、将所述控制器所属分组的各个加速处理器的子计算结果进行并行计算得到计算结果。

20、在本申请一个可选的实施例中,在所述控制器获取待传输数据之前,所述方法还包括:

21、所述控制器所属集群获取原始数据;

22、对所述原始数据进行识别处理,确定待广播至所述控制器的目标数据和传输数据;

23、采用数据广播的方式向所述集群对应的多个控制器广播所述目标数据,并向所述多个控制器传输对应的传输数据。

24、在本申请一个可选的实施例中,所述待广播数据包括特征图数据,所述待传输数据包括卷积核数据;或者,

25、所述待广播数据包括卷积核数据,所述待传输数据包括所述特征图数据。

26、本申请实施例的第二个方面,提供了一种数据处理系统,包括:

27、集群、控制器和加速处理器,所述控制器与通过第一总线连接的多个加速处理器构成一个分组,多个通过第二总线连接的所述控制器构成一个集群;

28、所述控制器用于获取待处理数据,并对所述待处理数据进行识别,确定待广播数据和待传输数据,采用数据广播的方式向与所述控制器连接的多个加速处理器广播所述待广播数据,并向所述多个加速处理器传输对应的所述待传输数据;

29、多个所述加速处理器用于接收所述待广播数据和对应的待传输数据,对所述待广播数据和所述待传输数据并行计算得到计算结果,将所述计算结果传输至所述控制器;

30、所述控制器用于发送所述计算结果。

31、本申请实施例的第三个方面,提供了一种计算机设备,包括:包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现如上任一项方法的步骤。

32、本申请实施例的第四个方面,提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,计算机程序被处理器执行时实现如上任一项的方法的步骤。

33、本申请实施例中控制器通过获取待处理数据,并对待处理数据进行识别,确定待广播数据和待传输数据,然后采用数据广播的方向与控制器连接的多个加速处理器,并采用数据广播的方式向与控制器连接的多个加速处理器广播待广播数据,并向多个加速处理器传输对应的待传输数据,然后多个加速处理器接收待广播数据和对应的待传输数据,对待广播数据和待传输数据并行计算得到计算结果,将计算结果传输至控制器,最后控制器发送计算结果。本申请中的技术方案一方面,由于将控制器与多个加速处理器构成一个分组,以及将多个控制器构成一个集群,并且控制器采用数据广播的方式向多个加速处理器广播待广播数据,使得多个加速处理器在数据获取过程中无需频繁的访问片外存储,能够共用待广播数据,保证了数据一致性,同时具有良好的动态扩展性,从而减少了访问次数和路径延时,提高了数据获取速度。另一方面,通过多个加速处理器对待广播数据和待传输数据并行计算得到计算结果,能够使得多个加速快起器快速处理海量数据,提高了数据的复用性和并行度,满足了多个加速处理器数据传输的需求,缩短了数据处理时间,提高了数据处理效率。



技术特征:

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述控制器对所述待处理数据进行识别,确定待广播数据和待传输数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述控制器采用数据广播的方式向与所述控制器连接的多个加速处理器广播所述待广播数据,包括:

4.根据权利要求1所述的方法,其特征在于,向所述多个加速处理器传输对应的所述待传输数据,包括:

5.根据权利要求1所述的方法,其特征在于,对所述待广播数据和所述待传输数据并行计算得到计算结果,包括:

6.根据权利要求1所述的方法,其特征在于,在所述控制器获取待传输数据之前,所述方法还包括:

7.根据权利要求1-6任一项所述的方法,其特征在于,所述待广播数据包括特征图数据,所述待传输数据包括卷积核数据;或者,

8.一种数据处理系统,其特征在于,包括:集群、控制器和加速处理器,所述控制器与通过第一总线连接的多个加速处理器构成一个分组,多个通过第二总线连接的所述控制器构成一个集群;

9.一种计算机设备,包括:存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。


技术总结
本申请实施例中提供了一种数据处理方法、系统、设备及存储介质,涉及计算机技术领域,该方法包括:控制器获取待处理数据,并对待处理数据进行识别,确定待广播数据和待传输数据;与通过第一总线连接的多个加速处理器构成一个分组,多个通过第二总线连接的控制器构成一个集群;采用数据广播的方式向与控制器连接的多个加速处理器广播待广播数据,并向多个加速处理器传输对应的待传输数据;多个加速处理器接收待广播数据和对应的待传输数据,对待广播数据和待传输数据并行计算得到计算结果,将计算结果传输至控制器;控制器发送计算结果。该方案减少了访问次数和路径延时,具有良好的动态扩展性,缩短了数据处理时间,提高了数据处理效率。

技术研发人员:胡振波,彭剑英,罗成,李帅军
受保护的技术使用者:芯来智融半导体科技(上海)有限公司
技术研发日:
技术公布日:2024/5/29
转载请注明原文地址:https://win.8miu.com/read-1168008.html

最新回复(0)