(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210510515.0 (22)申请日 2022.05.11 (71)申请人 上海阵方科技有限公司 地址 200030 上海市徐汇区丰 谷路315弄24 号1-3层 (72)发明人 陈元丰　谢翔　晏意林　黄高峰　 肖继清　李升林　孙立林　 (74)专利代理 机构 深圳市中科创为专利代理有 限公司 4 4384 专利代理师 谭雪婷　彭涛 (51)Int.Cl. G06N 20/00(2019.01) G06F 40/151(2020.01) G06F 21/62(2013.01) G06F 8/51(2018.01) (54)发明名称 模型转换系统和模型转换方法 (57)摘要 本发明公开了一种模型转换系统和模型转 换方法， 包 括： Loader模块： 用于加载TensorFlow 明文模型， 依次把其每个变量数据分别保存为独 立的文件， 将其变量元数据信息保存为另外一个 独立的文件； Generator模 块： 用于生成目标明文 模型， 生成新的网络拓扑结构代码所使用的 TensorFlowAPIs都是由Rosetta可适配的APIs组 成； Saver模块： 用于加载目标明文模型， 根据变 量元数据信息把Loader模块中保存的变量数据 分别赋值给目标明文模型， 并保存为新的明文模 型文件。 本发 明实现了任意明文预训练模型能够 在Rosetta隐私框架上被复用， 可以减少时间和 节约成本 。 权利要求书2页 说明书5页 附图2页 CN 115034401 A 2022.09.09 CN 115034401 A 1.一种基于TensorFl ow和Roset ta的模型转换系统， 其特 征在于， 包括： Loader模块： 用于加载TensorFlow明文模型， 依次把TensorFlow明文模型中每个变量 数据分别保存为独立的文件， 以及将T ensorFlow明文模 型的变量元数据信息 保存为另外一 个独立的文件； Generator模块： 用于根据TensorFlow明文模型加载前的网络拓扑结构生成新的网络 拓扑结构代码， 并生成目标明文模型， 其中， 生成新的网络拓扑结构代码所使用的 TensorFl ow APIs都是由Roset ta可适配的APIs组成； Saver模块： 用于加载目标明文模型， 并根据变量元数据信息把Loader模块中保存的变 量数据分别赋值给目标明文模型， 然后保存目标明文模型为新的明文模型文件， 这个新的 明文模型文件可在Roset ta中加载并使用。 2.根据权利要求1所述的模型转换系统， 其特征在于： 所述变量元数据信息包含： 变量 名称、 变量Shape  Info、 变量Tensor  value对应的文件名。 3.一种基于TensorFl ow和Roset ta的模型转换 方法， 其特 征在于： 包括如下步骤： 步骤S1： 使用Loader模块加载TensorFlow明文模型， 依 次把TensorFlow明文模型中每 个变量数据保存为独立的文件， 以及将TensorFlow明文模 型的变量元数据信息 保存为另外 一个独立的文件； 步骤S2： Generator模块根据TensorFlow明文模型加载前的网络拓扑结构生成新 的网 络拓扑结构代码， 并生成目标明文模型， 其中， 生成新的网络拓扑结构代码所使用的 TensorFl ow APIs都是由Roset ta可适配的APIs组成； 步骤S3： Saver模块加载目标明文模型， 并根据变量元数据信息把Loader模块 中保存的 变量数据分别赋值给目标明文模型， 然后保存目标明文模型为新的明文模型文件， 这个新 的明文模型文件可在Roset ta中加载并使用。 4.根据权利 要求3所述的模型转换方法， 其特征在于： 步骤S1之前， 先将需要加载的.h5 模型文件转换为TensorFlow  checkpoint文件， 并且， 步骤S 1中， 是加载转换为TensorFlow   checkpoint文件的TensorFl ow明文模型。 5.根据权利要求4所述的模型转换方法， 其特征在于： 步骤S1中， 是依次对每个变量的 权重数据都分别保存为 一个独立的文件。 6.根据权利要求5所述的模型转换方法， 其特征在于： 步骤S1中， 使用TensorFlow  API  tf.train.Saver().restore函数加载TensorFlow明文模型， 加载完后， 把TensorFlow明文 模型中的变量元数据信息枚举出来并保存； 其中， 变量元数据信息包含： 变量名称、 变量 Shape Info、 变量Tensor  value对应的文件名。 7.根据权利要求6所述的模型转换方法， 其特征在于： 步骤S2中， Generator模块是根 据.h5模型文件中的网络拓扑结构， 使用Rosetta可适配的APIs生成跟原来.h5模型一致的 新的网络 拓扑结构代码， 并根据新的网络 拓扑结构代码生成目标明文模型。 8.根据权利要求7所述的模型转换方法， 其特征在于： 步骤S3中， 在加载目标明文模型 后， 先初始化目标明文模型的变量为0并保存， 并获取步骤S1中保存的变量元数据信息， 根 据变量元数据信息从之前保存的文件中查找该变量的变量数据， 并分别赋值给目标明文模 型， 然后保存目标明文模型为 新的明文模型文件。 9.根据权利要求8所述的模型转换方法， 其特征在于： 根据变量元数据信 息从之前保存权　利　要　求　书 1/2 页 2 CN 115034401 A 2的文件中查找该变量的变量数据， 并分别赋值给目标明文模型时， 是按照每一层的变量名 称、 相同变量的维度、 网络层次是否一 致进行匹配赋值。 10.根据权利要求8所述的模型转换方法， 其特征在于： 在分别赋值变量数据给目标明 文模型时， 是加载变量数据文件来更新 目标明文模型对应的变量值， 其具体是根据该变量 的元数据信息找到保存此变量的Tensor  value数据文件， 然后加载该数据文件内容到 numpy array中， 再使用tf.assign把numpy  array中的数据assign给新的变量， 完成模型变 量数据的更新。权　利　要　求　书 2/2 页 3 CN 115034401 A 3