(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111281679.2 (22)申请日 2021.11.01 (71)申请人 中国电子科技 集团公司第十五研究 所 地址 100083 北京市海淀区北四环中路21 1 号 (72)发明人 黄茗　杨军　王滨　钱宝生　原鑫　 (74)专利代理 机构 北京秉文同创知识产权代理 事务所(普通 合伙) 11859 代理人 赵星　陈少丽 (51)Int.Cl. G06N 20/00(2019.01) G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 算力的计算方法、 装置、 终端设备和存储介 质 (57)摘要 本发明涉及一种算力的计算方法、 装置、 终 端设备和存储介质， 通过 获取待预测算力的用户 任务， 其中， 用户任务至少包括目标任务类型和 目标任务量； 根据预先建立的预训练模型， 对与 目标任务类型的用户任务进行模 型推理， 确定执 行用户任务所需要的与 目标任务量对应的算力 信息， 其中， 预先建立的预训练模型至少包括多 个不同任务类型的目标神经网络模 型， 目标神经 网络模型是预设神经网络处理器经过转换得到 的， 通过本发 明实施例中在终端设备上建立预训 练模型， 这样， 在输入用户任务时， 不论终端设备 上的预设神经网络处理器是什么类型的， 都可以 对用户任务进行算力预测。 权利要求书2页 说明书10页 附图3页 CN 114239844 A 2022.03.25 CN 114239844 A 1.一种算力的计算方法， 其特 征在于， 所述方法包括： 获取待预测算力的用户任务， 其中， 所述用户任务至少包括目标任务类型和目标任务 量； 根据预先建立的预训练模型， 对与所述目标任务类型的用户任务进行模型推理， 确定 执行所述用户任务所需要的与所述 目标任务量对应的算力信息， 其中， 所述预先建立的预 训练模型至少包括多个不同任务类型的目标神经网络模型， 所述目标神经网络模型是预设 神经网络处理器经过转换得到的， 其中， 所述预设神经网络处理器包括NPU加速卡或CPU与 NPU加速卡的组合。 2.根据权利要求1所述的方法， 其特征在于， 所述预先建立的预训练模型通过如下方式 得到： 获取不同任务类型对应的训练样本集， 其中， 所述不同任务类型至少包括： 图像分类任 务、 物体识别任务、 推荐任务、 语音识别任务、 文本识别任务或强化学习任务； 采用不同的训练样本集对不同的神经网络模型进行训练， 得到不同的初始神经网络模 型； 根据不同类型的预设神经网络处理器， 对所述初始神经网络模型进行转换， 确定与所 述预设神经网络处 理器相对应的预训练模型。 3.根据权利要求2所述的方法， 其特征在于， 所述获取不同任务类型对应的训练样本 集， 包括： 通过ImageNet数据库、 COCO数据库或Wikipedia数据库， 获取不同任务类型对应的训练 样本集。 4.根据权利要求2所述的方法， 其特征在于， 所述采用不同的训练样本集对不同的神经 网络模型进行训练， 得到不同的初始神经网络模型， 包括： 根据图像分类样本集对VG G19模型进行训练， 得到初始图像分类神经网络模型； 根据物体识别样本集对yo lov3模块进行训练， 得到初始 物体识别神经网络模型； 根据推荐任务样本集对DLRM模型进行训练， 得到初始推荐任务神经网络模型； 根据语音识别样本集对RN N‑T模型进行训练， 得到初始语音识别神经网络模型； 根据文本识别样本集对BERT模型进行训练， 得到初始文本识别神经网络模型； 根据强化学习样本集对MI NIGO模型进行训练， 得到初始强化学习神经网络模型。 5.根据权利要求4所述的方法， 其特征在于， 所述根据不同类型的预设神经网络处理 器， 对所述初始神经网络模型进行转换， 确定与所述预设神经网络处理器相对应的预训练 模型， 包括： 获取深度学习样本集； 采用深度学习框架建立网络架构， 其中， 所述深度学习框架至少包括tensorflow、 pytorch中的一种； 根据所述深度 学习样本集， 对所述不同类型的预设神经网络处理器对应的初始神经网 络模型进行训练， 得到训练结果； 若所述训练结果满足预设条件， 则将与不同类型的预设神经网络处理器对应的初始神 经网络模型， 确定为所述预训练模型。 6.一种算力的计算装置， 其特 征在于， 所述装置包括：权　利　要　求　书 1/2 页 2 CN 114239844 A 2获取模块， 用于获取待预测算力的用户任务， 其中， 所述用户任务至少包括目标任务类 型和目标任务 量； 计算模块， 用于根据预先建立的预训练模型， 对与所述目标任务类型的用户任务进行 模型推理， 确定执行所述用户任务所需要的与所述目标任务量对应的算力信息， 其中， 所述 预先建立的预训练模型至少包括多个不同任务类型的目标神经网络模型， 所述目标神经网 络模型是预设神经网络处理器经过转换得到的， 其中， 所述预设神经网络处理器包括NPU加 速卡或CPU与NPU加速卡的组合。 7.根据权利要求6所述的装置， 其特征在于， 所述装置还包括训练模块， 所述训练模块 用于： 获取不同任务类型对应的训练样本集， 其中， 所述不同任务类型至少包括： 图像分类任 务、 物体识别任务、 推荐任务、 语音识别任务、 文本识别任务或强化学习任务； 采用不同的训练样本集对不同的神经网络模型进行训练， 得到不同的初始神经网络模 型； 根据不同类型的预设神经网络处理器， 对所述初始神经网络模型进行转换， 确定与所 述预设神经网络处 理器相对应的预训练模型。 8.根据权利要求7 所述的装置， 其特 征在于， 所述训练模块用于： 通过ImageNet数据库、 COCO数据库或Wikipedia数据库， 获取不同任务类型对应的训练 样本集。 9.一种终端设备， 其特 征在于， 包括： 至少一个处 理器和存 储器； 所述存储器存储计算机程序； 所述至少一个处理器执行所述存储器存储的计算机程 序， 以实现权利要求1 ‑5中任一项所述的算力的计算方法。 10.一种计算机可读存储介质， 其特征在于， 该计算机可读存储介质中存储有计算机程 序， 所述计算机程序被执 行时实现权利要求1 ‑5中任一项所述的算力的计算方法。权　利　要　求　书 2/2 页 3 CN 114239844 A 3