(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202210496003.3 (22)申请日 2022.05.09 (65)同一申请的已公布的文献号 申请公布号 CN 114584406 A (43)申请公布日 2022.06.03 (73)专利权人 湖南红普创新科技发展 有限公司 地址 410000 湖南省长 沙市岳麓区岳麓街 道溁左路中南大学科技园研发总部1 栋166房 (72)发明人 陈晓红　许冠英　徐雪松　胡东滨　 梁伟　袁依格　 (74)专利代理 机构 长沙惟盛赟鼎知识产权代理 事务所(普通 合伙) 43228 专利代理师 马凤兰 (51)Int.Cl. H04L 9/40(2022.01)H04L 67/10(2022.01) H04L 67/12(2022.01) G06F 21/62(2013.01) G06K 9/62(2022.01) G06N 20/00(2019.01) (56)对比文件 CN 113992676 A,202 2.01.28 CN 113780344 A,2021.12.10 CN 112532451 A,2021.0 3.19 CN 113206887 A,2021.08.0 3 CN 114331388 A,2022.04.12 CN 113992692 A,2022.01.28 DE 102021212086 A1,202 2.05.05 刘艳， 王田， 彭绍量， 王国军， 贾维嘉.基 于边 缘的联邦学习模型清洗和设备聚类方法. 《计算 机学报》 .2021,全 文. 审查员 程茹 (54)发明名称 一种联邦学习的工业大数据隐私保护系统 及方法 (57)摘要 本发明公开了一种联邦学习的工业大数据 隐私保护系统及方法， 系统包括设备选择层、 终 端层、 聚类层、 边缘层以及云层。 方法包括： 根据 筛选的终端设备采集工业数据； 对工业数据进行 聚类处理； 将处理后的工业数据发送至边缘服务 器， 建立本地模型； 云服务器根据接收的本地模 型进行全局模 型聚合和更新， 并将全局模型下放 至设备选择层筛选出的终端设备， 实现数据共 享。 通过设备选择层对终端设备进行选择， 并对 工业数据聚类， 满足了联邦学习数据样本同质性 的要求， 提高了联邦学习的聚合效率； 通过边缘 层与云层之间的建模、 更新以及下放， 提高了海 量数据传输的速率， 实现数据共享， 并且保证数 据的安全性。 权利要求书3页 说明书7页 附图2页 CN 114584406 B 2022.08.12 CN 114584406 B 1.一种联邦学习的工业大数据隐私保护系统， 其特征在于， 包括： 设备选择层、 终端层、 聚类层、 边 缘层以及云层； 所述设备选择层用于选择满足条件的终端设备， 并根据满足条件的终端设备构建终端 层； 采用深度强化学习技术对多个终端设备进行选择， 首先根据终端设备的计算能力、 存 储能力、 运行年限、 故障发生率和传输效率进 行计算， 并进 行预排序， 根据排序结果， 选择满 足联邦学习的最低要求的终端设备； 终端设备的筛 选过程为： 步骤1： 获取终端设备的信息， 并初始化终端设备的网络状态、 系 统状态、 经验缓冲 区、 参数以及Q网络， 通过参数初始化 Q网络的网络参数； 步骤2： 将当前状态 记为： st； 通过设备选择函数对信息进行计算； 设备选择函数为： 其中，i表示第i个终端设备， 1表示被选择， 0表示不被选择， 表示阈值； 表示终端 设备的性能期望值， C表示计算能力， S表示存储能力， Y表示运行年限， B表示故障发生率， T 表示传输效率； α、β、γ、δ、σ为对应的权 重； 根据终端设备的性能期望值以及阈值， 判断终端设备 是否被选择； 步骤3： 根据计算后的信 息进行预排序， 并通过排序函数从n个终端设备中选择m个符合 条件的终端设备； 步骤4： 被选择的终端设备利用贪婪策略执 行动作 ， 并与其他m ‑1个终端设备自主完成 通讯组网， 得到奖励， 奖励记为： ； 奖励 的计算公式为： 其中，n表示终端设备的数量， i表示第i个终端设备， 表示单个设备在Δ t时间内 完成的总计算任务数量， I表示单个设备的单个 计算任务， num表示计算任务的数量； 接受下一状态， 下一状态记为： ； 将 、 、 和 作为经验存储入经验库中， 经验 记为 ； 如果 是最后的状态， 则 h= ，h表示目标价值， r表示奖励值； 如果 不是最后的状态， 则 ， 其中， 表示状态 下的目标价值， 表示状态 下采取动作 a的奖励值， 表示折扣 率， 表示当在状态 时采取动作 a的价值，a表示状态 下采取的动作， 表示参数；权　利　要　求　书 1/3 页 2 CN 114584406 B 2步骤5： 通过 计算损失函数 ， 其损失函数 公式为： 其中， 表示状态 下的目标价值， 表示当在状态 时采取动作 的价 值， 表示参数； 当损失函数未收敛时， 则进行下一轮终端设备选择； 当损失函数收敛时， 则通过选择的 各终端设备， 构建终端设备集， 并进行后续 步骤； 所述终端层用于获取工业数据， 并将所述工业数据发送至聚类层； 所述工业数据通过 满足条件的终端设备采集得到； 所述聚类层用于将接收的工业数据进行汇聚， 并对工业数据进行聚类； 所述边缘层包括 边缘服务器， 用于根据聚类后的工业数据， 建立本地模型； 所述本地模型记为： 其中，t表示时刻， i表示第i个终端设备， 表示t时刻的本地模型， 表示t‑1 时刻的本地模型， 表示学习速率， 表示梯度； 的表达式为： 其中， 表示基于数据集 的损失函数， 为参数， 表示由聚类后的工业数据构 建的数据集， i表示第i个终端设备， j表示第j个聚类后的工业数据； 表示基于决策树 算法的损失函数， 表达式为： 其中，Z表示决策树的叶子节点的数量， z表示决策树中第 z个叶子节点， k表示第k次迭 代， 表示第k次迭代后每个叶子节点区域样本的一阶导数， 表示第k次迭代后第 z个 叶子节点的参数， 表示第k次迭代后每个叶子节点区域样本的二阶导数， λ表示正则化系 数， 为 的平方， 用于权衡决策树模型的复杂度； 所述云层包括云服务器， 用于根据接收的本地模型进行全局模型聚合和更新， 并将全 局模型下放至终端层的终端设备。 2.根据权利要求1所述的一种联邦学习的工业大数据隐私保护系统， 其特征在于， 所述 工业数据包括终端设备的型号、 终端设备的类别以及终端设备 所处厂房的区域。 3.根据权利要求1所述的一种联邦学习的工业大数据隐私保护系统， 其特征在于， 所述 全局模型记为： 其中，t表示时刻， N表示终端设备的数量， i表示第i个终端设备， 表示t时刻的本地 模型。权　利　要　求　书 2/3 页 3 CN 114584406 B 3