本公开一般地涉及无线通信系统和方法，包括用于在无线通信系统中进行人工智能(ai)/机器学习(ml)模型推理的技术。
背景技术：
1、ai/ml技术正被应用于多种行业的一系列应用领域，显著提升了生产力。例如，在无线通信系统中，移动设备(诸如智能手机、智能汽车、无人机、移动机器人)正越来越多地用ai/ml模型取代传统算法(诸如语音识别、机器翻译、图像识别、视频处理、用户行为预测)，以实现各种应用。例如，这些应用包括增强摄影、智能个人助理、vr/ar、视频游戏、视频分析、个性化购物推荐、自动驾驶/导航、智能家电、移动机器人、移动医疗以及移动金融。
2、可以训练ai/ml模型，并针对特定ai/ml任务使用训练后的ai/ml模型进行模型推理。在模型推理过程中，来自现实世界的输入通过ai/ml模型进行传递，并输出对任务的预测。例如，输入可以是图像的像素或音频波的采样振幅。相应地，ai/ml模型的输出可以是图像包含特定对象的概率或者音频序列包含特定词的概率。应理解，模型推理的结果与ai/ml模型的复杂度有关，ai/ml模型的复杂度与模型推理所消耗的资源有关。
技术实现思路
1、本公开的第一方面涉及一种无线通信系统中的模型推理方法，包括：确定与第一终端设备的ai/ml任务对应的ai/ml模型；基于第一终端设备和其他一个或多个终端设备的相应状态信息，形成所述ai/ml模型的至少第一部分的拆分信息，所述拆分信息指定针对所述ai/ml模型的所述至少第一部分的多个子部分要通过多个参与者设备执行拆分的模型推理；以及基于所述拆分信息，使得无线网络为所述多个参与者设备中的至少一者分配用于传输模型推理信息的资源。本公开的第一方面还涉及一种电子设备。该电子设备包括处理电路，该处理电路被配置为执行根据第一方面的方法。在实施例中，该电子设备可以用于终端设备或网络端点。
2、本公开的第二方面涉及一种无线通信系统中的模型推理方法，包括：获得ai/ml模型的至少第一部分的拆分信息，其中所述ai/ml模型与第一终端设备的ai/ml任务相对应，所述拆分信息指定针对所述ai/ml模型的所述至少第一部分的多个子部分要通过多个参与者设备执行拆分的模型推理；以及基于所述拆分信息，为所述多个参与者设备中的至少一者分配用于传输模型推理信息的资源。本公开的第二方面还涉及一种用于基站的电子设备。该电子设备包括处理电路，该处理电路被配置为执行根据第二方面的方法。
3、本公开的第三方面涉及一种无线通信系统中的模型推理方法，包括：从第一终端设备接收执行模型推理的指令，所述指令包括ai/ml模型的相应子部分的指示信息和下游参与者设备的指示信息；接收用于传输模型推理信息的资源分配，其中所述资源分配指示用于与上游参与者设备和所述下游参与者设备的无线链路(例如包括直通链路)的资源；基于所述指令和所述资源分配，经由与所述上游参与者设备的无线链路从所述上游参与者设备接收第一中间数据；将第一中间数据输入所述ai/ml模型的相应子部分，获得第二中间数据；以及基于所述指令和所述资源分配，经由与所述下游参与者设备的无线链路向所述下游参与者设备发送第二中间数据。本公开的第三方面还涉及一种用于终端设备的电子设备。该电子设备包括处理电路，该处理电路被配置为执行根据第三方面的方法。
4、本公开的第四方面涉及一种计算机可读存储介质，其上存储有可执行指令，该可执行指令在由一个或多个处理器执行时，实现根据本公开的各种实施例的方法的操作。
5、本公开的第五方面涉及一种计算机程序产品，该计算机程序产品包括指令，该指令在由计算机执行时使得实现根据本公开的各种实施例的方法。
6、提供上述概述是为了总结一些示例性的实施例，以提供对本文所描述的主题的各方面的基本理解。因此，上述特征仅仅是示例并且不应该被解释为以任何方式缩小本文所描述的主题的范围或精神。本文所描述的主题的其他特征、方面和优点将从以下结合附图描述的具体实施方式而变得明晰。
1.一种电子设备，包括处理电路，所述处理电路被配置为：
2.根据权利要求1所述的电子设备，其中，所述处理电路还被配置为：获得第一终端设备和其他一个或多个终端设备的相应状态信息，其中所述状态信息与模型推理相关联，以及
3.根据权利要求2所述的电子设备，其中，所述拆分信息包括所述多个子部分的指示信息和执行模型推理的参与者设备信息，并且形成所述拆分信息包括：
4.根据权利要求3所述的电子设备，其中，所述多个子部分与所述多个参与者设备相对应，所述多个子部分的模型推理工作量与相应参与者设备的计算状态相匹配，并且所述多个参与者设备的通信状态能够支持模型推理信息的传输。
5.根据权利要求1所述的电子设备，其中，
6.根据权利要求4所述的电子设备，其中，使得无线网络分配用于传输模型推理信息的资源包括向基站发送所述ai/ml模型的所述至少第一部分的所述拆分信息。
7.根据权利要求6所述的电子设备，其中，所述处理电路还被配置为：
8.根据权利要求7所述的电子设备，其中，所述电子设备被实现为网络端点或网络端点的一部分，所述网络端点包括云服务器和/或边缘服务器。
9.根据权利要求7所述的电子设备，其中，所述电子设备被实现为第一终端设备或第一终端设备的一部分，并且所述处理电路还被配置为：
10.根据权利要求9所述的电子设备，其中，所述处理电路还被配置为：
