转换模型【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge下面以Switch_v1.pb网络模型为例进行说明演示如何将有控制流算子网络模型转换成函数类算子网络模型然后通过ATC工具转换成适配AI处理器的离线模型。请先参见获取Switch_v1.pb网络模型获取Switch_v1.pb网络模型。获取控制流算子网络模型的输出。切换到summarize_graph可执行文件所在路径执行如下命令./summarize_graph --in_graph/home/test/module/Switch_v1.pb若返回如下信息则说明执行成功Found 3 possible inputs: (namex, typefloat(1), shapeunknown) (namey, typefloat(1), shapeunknown) (namez, typefloat(1), shapeunknown) No variables spotted. Found 1 possible outputs: (nameadd, opAddV2) Found 0 (0) const parameters, 0 (0) variable parameters, and 0 control_edges Op types used: 3 Placeholder, 3 Switch, 2 AddV2, 2 Mul, 2 Square, 1 Identity, 1 Less, 1 Merge To use with tensorflow/tools/benchmark:benchmark_model try these arguments: bazel run tensorflow/tools/benchmark:benchmark_model -- --graph/home/test/module/Switch_v1.pb --show_flops --input_layerx,y,z --input_layer_typefloat,float,float --input_layer_shape:: --output_layeradd构造config.pbtxt输出配置文件。在任意路径执行vim config.pbtxt命令创建config.pbtxt文件本示例以在$HOME/module路径创建为例进行说明。根据步骤1所示该网络模型有一个输出构造的config.pbtxt配置文件样例如下如下配置文件只是样例需要用户根据实际情况修改输出算子的name其中fetch表示输出fetch { id { node_name: add } }配置完成后保存文件并退出。生成函数类算子网络模型的配置文件。在任意路径执行如下命令设置xlacompile命令执行过程中的打屏日志信息export TF_CPP_MIN_LOG_LEVEL0 export TF_CPP_MIN_VLOG_LEVEL1切换到xlacompile可执行文件所在路径执行如下命令./xlacompile --graph/home/test/module/Switch_v1.pb --config/home/test/module/config.pbtxt --output/home/test/module/Switch_v1_v2如果提示“Successfully convert ...”信息则说明转换成功。切换到**--output**参数指定的路径可以看到如下输出文件-rw-rw-r-- 1 test test 1236 Jun 20 17:13 Switch_v1_v2.pb -rw-rw-r-- 1 test test 4803 Jun 20 17:13 Switch_v1_v2.pbtxt函数类算子网络模型生成graph子图。后续使用ATC工具进行模型转换时需要使用该文件生成子图。在任意路径执行如下命令将函数类算子网络模型生成子图python3.7.5 ${INSTALL_DIR}/compiler/python/func2graph/func2graph.py -m /home/test/module/Switch_v1_v2.pb若提示如下信息则说明生成成功。graph_def_file: /home/test/module/graph_def_library.pbtxt INFO: Convert to subgraphs successfully.函数类算子网络模型转换成适配昇腾AI处理器的离线模型。参见设置环境变量设置ATC工具执行时需设置的环境变量然后执行如下命令进行模型转换atc --model/home/test/module/Switch_v1_v2.pb --framework3 --output/home/test/module/out/Switch_v1_v2_to_om --soc_versionsoc_version若提示如下信息则说明模型转换成功ATC run success, welcome to the next use.成功执行命令后在**--output**参数指定的路径下可查看模型文件。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考