水利行业标准网
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210505161.0 (22)申请日 2022.05.10 (71)申请人 平安科技 (深圳) 有限公司 地址 518000 广东省深圳市福田区福田街 道福安社区益田路5033号平 安金融中 心23楼 (72)发明人 司世景 王健宗 朱智韬 肖京  (74)专利代理 机构 深圳众鼎专利商标代理事务 所(普通合伙) 44325 专利代理师 姚章国 (51)Int.Cl. G06N 20/00(2019.01) G06K 9/62(2022.01) G06F 16/958(2019.01) G06F 21/62(2013.01) (54)发明名称 推荐模型训练方法、 系统、 计算机设备及存 储介质 (57)摘要 本发明涉及人工智能领域, 公开了一种推荐 模型训练方法、 系统、 计算机设备及存储介质, 其 中方法包括: 服务器将所有客户端进行K ‑means 聚类得到多个客户端组合, 在每一客户端组合选 取相同数量的目标客户端, 得到多个目标客户 端, 并将全局模型发送至每一目标客户端; 目标 客户端根据本地数据集和全局模型更新目标客 户端的推荐模 型, 并根据本地数据集更新全局模 型得到更新参数数据; 服务器根据接收到的多个 更新参数数据更新全局模型, 得到新的全局模 型, 直至新的全局模型满足收敛条件停止更新推 荐模型; 本发明提高了模型精度, 并确保了不同 类别客户端参与的公平性, 使得各客户端的推荐 模型均具有较好的性能, 从而提高了联邦推荐系 统的公平性和鲁棒 性。 权利要求书3页 说明书20页 附图5页 CN 114912627 A 2022.08.16 CN 114912627 A 1.一种推荐模型训练方法, 其特 征在于, 包括: 服务器将所有客户端进行K ‑means聚类得到多个客户端组合, 在每一所述客户端组合 选取相同数量的目标客户端, 得到多个所述 目标客户端, 并将全局模型发送至每一所述 目 标客户端; 所述目标客户端根据本地数据集和所述全局模型更新所述目标客户端的推荐模型, 并 根据所述本地数据集更新所述全局模型得到所述全局模型的更新参数数据, 并将所述更新 参数数据发送至所述 服务器; 所述服务器根据接收到的多个所述更新参数数据 更新所述全局模型, 得到新的所述全 局模型; 在新的所述全局模型未满足收敛条件时, 所述服务器重新将所有所述客户端进行聚类 得到多个所述 目标客户端, 并将新的所述全局模型发送至各所述 目标客户端, 以接 收各所 述目标客户端返回的所述更新参数数据并对所述全局模型进 行更新, 直至最新的所述全局 模型满足所述收敛 条件时, 通知各 所述客户端停止更新所述推荐模型。 2.如权利要求1所述的推荐模型训练方法, 其特征在于, 所述根据本地数据集和所述全 局模型, 对所述目标客户端的推荐模型进行 更新之前, 所述方法还 包括: 所述服务器对每一所述客户端组合中所有所述客户端的推荐模型进行加权平均, 得到 所述客户端组合对应的组合代 表模型; 所述服务器将所述对应的组合代表模型发送至所述客户端组合对应的所述目标客户 端, 以使所述目标客户端根据所述本地数据集、 接收的所述组合代表模型和所述全局模型, 对所述目标客户端的推荐模型进行 更新。 3.如权利要求2所述的推荐模型训练方法, 其特征在于, 所述根据所述本地数据集、 接 收的所述组合代 表模型和所述全局模型, 对所述目标客户端的推荐模型进行 更新, 包括: 所述目标客户端根据 所述本地数据集更新所述目标客户端的推荐模型, 得到所述推荐 模型的更新梯度; 所述目标客户端根据所述全局模型、 所述组合代表模型和所述推荐模型的更新梯度, 对所述目标客户端当前的所述推荐模型进行 更新。 4.如权利要求3所述的推荐模型训练方法, 其特征在于, 所述推荐模型的更新梯度包括 所述推荐模型 的交互层更新梯度, 所述根据所述全局模型、 所述组合代表模型和所述推荐 模型的更新梯度, 对所述目标客户端当前的所述推荐模型进行 更新, 包括: 所述目标客户端提取所述全局模型的交互层参数, 并提取所述组合代表模型的交互层 参数; 所述目标客户端根据 所述推荐模型的交互层更新梯度、 所述全局模型的交互层参数和 所述组合代 表模型的交 互层参数, 计算得到目标交 互层参数; 所述目标客户端将当前 所述推荐模型的交 互层参数, 更新 为所述目标交 互层参数。 5.如权利要求1所述的推荐模型训练方法, 其特征在于, 所述根据 所述本地数据集更新 所述全局模型 得到所述全局模型的更新 参数数据, 包括: 所述目标客户 端采用梯度下降法, 根据所述本地数据集对所述全局模型进行多轮更 新; 当所述目标客户端对所述全局模型的更新轮数为预设轮次数时, 所述目标客户端将所权 利 要 求 书 1/3 页 2 CN 114912627 A 2述目标客户端更新所述全局模型得到的模型, 输出为客户端全局模型, 并将所述客户端全 局模型的参数记为更新模型参数; 所述目标客户端将所述客户端全局模型与 所述全局模型之间的损失梯度, 作为所述全 局模型的更新梯度, 并将所述更新模型参数和所述更新梯度作为所述更新 参数数据。 6.如权利要求1 ‑5任一项所述的推荐模型训练方法, 其特征在于, 所述更新参数数据包 括更新梯度和更新模型参数, 所述根据接收到的多个所述更新参数数据更新所述全局模 型, 得到最 新的所述全局模型, 包括: 所述服务器根据多个所述更新模型参数和对应的多个所述更新梯度, 对所述全局模型 的不同网络层参数进行更新计算, 得到所述全局模型 的目标模型参数, 所述 目标模型参数 包括目标用户层参数、 目标物品层参数和目标交 互层参数; 所述服务器将所述目标用户层参数、 所述目标物品层参数和所述目标物品层参数更新 至所述全局模型, 得到最 新的所述全局模型。 7.如权利要求6所述的推荐模型训练方法, 其特征在于, 所述根据多个所述更新模型参 数和对应的多个所述更新梯度, 对所述全局模型 的不同网络层参数进行更新计算, 得到所 述全局模型的目标模型参数, 包括: 所述服务器提取每一所述更新模型参数中用户层更新参数、 物品层更新参数和交互层 更新参数, 并提取对应所述更新梯度中的用户层更新梯度、 物品层更新梯度; 根据所述目标客户端对应的用户层更新梯度, 确定所述目标客户端对应的从属客户端 的用户层更新梯度, 再根据所有 所述客户端的用户层更新梯度计算得到所述目标用户层参 数, 所述从属客户端为与所述目标客户端在同一所述 客户端组合内的其 他客户端; 根据每一所述目标客户端对应的所述物品层更新参数和所述物品层更新梯度, 计算得 到所有所述目标客户端对所述全局模型 更新后的所述目标物品层参数; 对所有所述目标客户端的交 互层更新 参数进行加权计算, 得到所述目标交 互层参数。 8.一种推荐模型训练系统, 其特 征在于, 包括: 服务器, 用于将所有客户端进行K ‑means聚类得到多个客户端组合, 在每一所述客户端 组合选取相同数量的目标客户端, 得到多个所述 目标客户端, 并将全局模型发送至每一所 述目标客户端; 所述目标客户端, 用于根据本地数据集和所述全局模型更新所述目标客户端的推荐模 型, 并根据所述本地数据集更新所述全局模型得到所述全局模型 的更新参数数据, 并将所 述更新参数数据发送至所述 服务器; 所述服务器还用于: 根据接收到的多个所述更新 参数数据更新所述全局模型, 得到新的所述全局模型; 在新的所述全局模型未满足收敛条件时, 重新将所述所有客户端进行聚类得到多个所 述目标客户端, 并将新的所述全局模型发送至各所述 目标客户端, 以接 收各所述 目标客户 端返回的所述更新参数数据并对所述全局模型进 行更新, 直至最新的所述全局模型满足所 述收敛条件时, 通知各 所述客户端停止更新所述推荐模型。 9.一种计算机设备, 包括存储器、 处理器以及存储在所述存储器中并可在所述处理器 上运行的计算机程序, 其特征在于, 所述处理器执行所述计算机程序时实现如权利要求 1至 7任一项所述推荐模型训练方法的步骤。权 利 要 求 书 2/3 页 3 CN 114912627 A 3

PDF文档 专利 推荐模型训练方法、系统、计算机设备及存储介质

文档预览
中文文档 29 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共29页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 推荐模型训练方法、系统、计算机设备及存储介质 第 1 页 专利 推荐模型训练方法、系统、计算机设备及存储介质 第 2 页 专利 推荐模型训练方法、系统、计算机设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-07 12:39:17上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。