(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221048510 0.2 (22)申请日 2022.05.06 (71)申请人 西北工业大 学 地址 710072 陕西省西安市友谊西路127号 (72)发明人 李立欣　印通　林文晟　李旭　 卫保国　 (74)专利代理 机构 西北工业大 学专利中心 61204 专利代理师 金凤 (51)Int.Cl. G06N 20/20(2019.01) G06F 21/62(2013.01) (54)发明名称 一种异构通信网络的分组式联邦学习方法 (57)摘要 本发明提供了一种异构通信网络的分组式 联邦学习方法， 建立基于端到端通信的联邦学习 系统模型， 根据相关的设备异构性差异及通信场 景的复杂性， 计算设备之间的代价函数值， 并根 据代价函数值将设备进行分组， 最终得到分组结 果， 分组结果将代价函数值小于设定阈值的参与 设备划分为同一组， 并在组内、 组间分别进行联 邦学习任务。 本发明建立一种基于端到端通信的 联邦学习系统模 型， 在终端设备进行信息通信的 过程中， 将具有相似通信条件与计算能力的设备 分为一组， 从而降低由于设备等待期造成的资源 浪费与时延问题。 权利要求书2页 说明书4页 附图2页 CN 114997422 A 2022.09.02 CN 114997422 A 1.一种异构通信网络的分组式联邦学习方法， 其特 征在于包括下述 步骤： 步骤一、 构建联邦学习 系统模型： 所述联邦学习系统模型包括至少 1个终端设备， 所述终端设备具有无线通信发送和接 收能力， 并具有浮 点计算能力； 步骤二、 确定优化目标函数： 基于联邦学习系统模型， 根据实 际需求的人工智能训练模型， 确定联邦学习任务优化 目标函数； 将人工智能训练模型 的所有优化 目标函数求和后计算均值， 得到联邦学习系统 模型的优化目标函数； 步骤三、 测量并获取步骤一构建的联邦学习系统模型中终端设备之间的最大通信速 率， 以及各个终端设备的工作频率信息， 计算得到终端设备之间的代价 函数值； 步骤四、 在所有还未具有分组标签的终端设备中， 挑选工作频率最高的终端设备作为 伪服务器， 并由该伪服务器在剩余未分组的终端设备中， 选择代价函数值小于给定阈值的 终端设备作为该伪服务器分组成员； 继续在剩下的未分组的终端设备中挑选工作频率最高 的终端设备作为伪服务器， 并由该伪服务器在剩余未分组的终端设备中， 选择代价函数值 小于给定阈值的终端设备作为该伪服务器分组成员， 由此不断重复， 直至所有终端设备均 已分组， 将所有终端设备都存在分组标签， 得到分组结果； 步骤五、 基于步骤四的分组结果， 终端设备进行联邦学习任务模型的模型训练和 组内 模型聚合， 不断重复模型训练和组内模型聚合， 直至 达到预设时间T1， 则结束循环； 步骤六、 在步骤五进行至 预设时间T1后， 终端设备进行联邦学习任务模型的模型训练和 组间模型聚合， 并不断重复模型训练和组间模型聚合， 直至 达到预设时间T2； 步骤七、 不断重复步骤五和步骤六， 直至联邦学习任务训练模型的精确度不再提高， 精 确度不再提高指在当前时刻至规定时间T内， 模型的精确度均小于当前时刻的精确度。 2.根据权利要求1所述的异构通信网络的分组式联邦学习方法， 其特 征在于： 所述代价 函数公式具体如下： 其中， 将 为终端设备中第i个设备和第j个设备之间的代价函数值， Rij为第i个设备 和第j个设备之间的最大通信速率， μ为终端设备之间的计算异构性在代价函数中所占权 重， fi和fj分别定义 为第i个设备和第j个设备的工作频率。 3.根据权利要求1所述的异构通信网络的分组式联邦学习方法， 其特 征在于： 所述组内模型聚合的步骤为： 所有未被挑选作为伪服务器的终端设备将已有更新后的模型参数发送至未被挑选作 为伪服务器的终端设备所在分组内的伪服务器处， 该伪服务器等待接收组内所有成员的模 型参数后， 将收到的模型参数进行加权平均， 并下发给本组内的成员。 4.根据权利要求1所述的异构通信网络的分组式联邦学习方法， 其特 征在于： 所述组间模型聚合过程为： 所有身份为伪服务器的终端设备均向除自身外其余伪服务 器设备发送更新后的模型参数， 并等待接 收来自其余伪服务器设备 的模型参数， 接 收完成 后， 将收到的模型参数进行加权平均， 并将加权平均后的模型下发至对应分组的其余普通 终端设备。权　利　要　求　书 1/2 页 2 CN 114997422 A 25.根据权利要求3和4任一所述的异构通信网络的分组式联邦学习方法， 其特 征在于： 所述模型参数的更新方法采用随机梯度下降法或Adam算法。权　利　要　求　书 2/2 页 3 CN 114997422 A 3