本发明关于一种数据处理技术,且特别关于一种数据处理系统、数据处理方法以及电子装置。
背景技术:
1、目前大型神经网络模型的应用非常广泛。然而,通用的大型神经网络模型无法有效地满足不同使用者的个人化计算需求。特别是,通用的大型神经网络模型无法对于特定场域、个人化以及客制化数据来进行有效辨别。目前,如果要使通用的大型神经网络模型满足不同使用者的个人化计算需求,则需要对大型神经网络模型中的多个神经网络模型分别进行训练以及权重调整,因此需花费较多计算数据、时间以及人力,故可实现性低。
技术实现思路
1、本发明提供一种数据处理系统、数据处理方法以及电子装置,可有效地优化大型神经网络模型。
2、本发明的数据处理系统包括服务器以及电子装置。服务器用以储存多个神经网络模型。电子装置用以连接至服务器。电子装置包括储存装置、通信接口以及处理器。储存装置用以储存一适配器总模型。通信接口用以连接至服务器。处理器耦接储存装置以及通信接口,并且用以输出适配器总模型以及输入数据至该服务器。服务器将适配器总模型嵌入至多个神经网络模型中的每一个,并且将输入数据输入至所述多个神经网络模型,以通过嵌入有适配器总模型的所述多个神经网络模型来产生输出数据,并且将所述输出数据回传至该电子装置。
3、本发明的数据处理方法包括以下步骤:通过电子装置连接至服务器;通过电子装置的处理器输出一适配器总模型以及输入数据至服务器;通过服务器将适配器总模型嵌入至多个神经网络模型中的每一个;通过服务器将输入数据输入至所述多个神经网络模型,以通过嵌入有适配器总模型的所述多个神经网络模型来产生输出数据;以及通过服务器将所述输出数据回传至电子装置。
4、本发明的电子装置包括储存装置、通信接口以及处理器。储存装置用以储存一适配器总模型。通信接口用以连接至服务器。处理器耦接储存装置以及通信接口,并且用以输出适配器总模型以及输入数据至服务器。服务器将适配器总模型嵌入至多个神经网络模型的每一个,并且将输入数据输入至所述多个神经网络模型,以通过嵌入有适配器总模型的所述多个神经网络模型来产生输出数据,并且将所述输出数据回传至电子装置。
5、基于上述,本发明的数据处理系统、数据处理方法以及电子装置可透过嵌入适配器总模型至大型模型中的多个神经网络模型的每一个,以有效地优化大型模型。
6、为让本发明的上述特征和优点能更明显易懂,下文特举实施例,并配合说明书附图作详细说明。
1.一种数据处理系统,其特征在于,包括:
2.根据权利要求1所述的数据处理系统,其特征在于,该适配器总模型包括多个适配器模型,所述多个适配器模型中的各适配器模型包括权重矩阵,并且该服务器将各适配器模型的权重矩阵与所述多个神经网络模型中与该适配器模型对应的神经网络模型的密集层的原始权重矩阵结合。
3.根据权利要求2所述的数据处理系统,其特征在于,该权重矩阵的参数数量小于该原始权重矩阵的参数数量,且该权重矩阵的维度与该原始权重矩阵的维度相同。
4.根据权利要求2所述的数据处理系统,其特征在于,该适配器总模型还包括编码模块,
5.根据权利要求2所述的数据处理系统,其特征在于,该电子装置预先输出训练数据至该服务器,以将该训练数据输入至嵌入有该适配器总模型的所述多个神经网络模型,
6.根据权利要求5所述的数据处理系统,其特征在于,当该服务器训练所述多个适配器模型时,所述多个神经网络模型的该原始权重矩阵维持固定不变。
7.根据权利要求5所述的数据处理系统,其特征在于,该服务器根据损失函数来训练所述多个适配器模型,
8.根据权利要求1所述的数据处理系统,其特征在于,响应于该处理器接收到操作指令,该处理器根据该操作指令通知该服务器移除该适配器总模型。
9.一种数据处理方法,其特征在于,包括:
10.根据权利要求9所述的数据处理方法,其特征在于,该适配器总模型包括多个适配器模型,所述多个适配器模型中的各适配器模型包括权重矩阵,并且该服务器将各适配器模型的权重矩阵与所述多个神经网络模型中与该适配器模型对应的神经网络模型的密集层的原始权重矩阵结合。
11.根据权利要求10所述的数据处理方法,其特征在于,该权重矩阵的参数数量小于该原始权重矩阵的参数数量,且该权重矩阵的维度与该原始权重矩阵的维度相同。
12.根据权利要求10所述的数据处理方法,其特征在于,还包括:
13.根据权利要求10所述的数据处理方法,其特征在于,还包括:
14.根据权利要求13所述的数据处理方法,其中当训练所述多个适配器模型时,所述多个神经网络模型的该原始权重矩阵维持固定不变。
15.根据权利要求13所述的数据处理方法,其特征在于,还包括:
16.根据权利要求9所述的数据处理方法,其特征在于,还包括:
17.一种电子装置,其特征在于,包括:
18.根据权利要求17所述的电子装置,其特征在于,该适配器总模型包括多个适配器模型,所述多个适配器模型中的各适配器模型包括权重矩阵,并且该服务器将各适配器模型的权重矩阵与所述多个神经网络模型中与该适配器模型对应的神经网络模型的密集层的原始权重矩阵结合。
19.根据权利要求18所述的电子装置,其特征在于,该电子装置预先输出训练数据至该服务器,以将该训练数据输入至嵌入有该适配器总模型的所述多个神经网络模型,
20.根据权利要求17所述的电子装置,其特征在于,响应于该处理器接收到操作指令,该处理器根据该操作指令通知该服务器移除该适配器总模型。
