精度比对【免费下载链接】tensorflowAscend TensorFlow Adapter项目地址: https://gitcode.com/cann/tensorflowenable_dump是否开启Data Dump功能。True开启Data Dump功能从dump_path读取Dump文件保存路径dump_path为None时会产生异常。False默认值关闭Data Dump功能。[!NOTE]说明不能同时开启Data Dump与溢出数据采集功能即不同时将enable_dump和enable_dump_debug参数配置为“True”。若“enable_dump/enable_dump_debug二选一”参数配置为“True”同时“enable_exception_dump”配置为了“1”即开启普通异常算子dump。此时针对动态shape网络仅“enable_exception_dump”生效针对静态shape网络“enable_exception_dump”与“enable_dump/enable_dump_debug二选一”都生效。配置示例custom_op.parameter_map[enable_dump].b Truedump_modeData Dump模式用于指定dump算子输入还是输出数据。取值如下input仅Dump算子输入数据output仅Dump算子输出数据默认取值为output。allDump算子输入和输出数据[!NOTE]说明 配置为all时由于部分算子在执行过程中会修改输入数据例如集合通信类算子HcomAllGather、HcomAllReduce等因此系统在进行dump时会在算子执行前dump算子输入在算子执行后dump算子输出这样针对同一个算子算子输入、输出的dump数据是分开落盘会出现多个dump文件在解析dump文件后用户可通过文件内容判断是输入还是输出。配置示例custom_op.parameter_map[dump_mode].s tf.compat.as_bytes(all)enable_dump_debug溢出检测场景下是否开启溢出数据采集功能该参数仅用于训练场景。True开启采集溢出数据的功能从dump_path读取Dump文件保存路径dump_path为None时会产生异常。False默认值关闭采集溢出数据的功能。说明不能同时开启Data Dump与溢出数据采集功能即不同时将enable_dump和enable_dump_debug参数配置为“True”。若“enable_dump/enable_dump_debug二选一”参数配置为“True”同时“enable_exception_dump”配置为了“1”即开启普通异常算子dump。此时针对动态shape网络仅“enable_exception_dump”生效针对静态shape网络“enable_exception_dump”与“enable_dump/enable_dump_debug二选一”都生效。配置示例custom_op.parameter_map[enable_dump_debug].b Truedump_debug_mode设置溢出检测模式该参数仅用于训练场景。aicore_overflowAI Core算子溢出检测检测在算子输入数据正常的情况下输出是否不正常的极大值如float16下65500,38400,51200这些值。一旦检测出这类问题需要根据网络实际需求和算子逻辑来分析溢出原因并修改算子实现。atomic_overflowAtomic Add溢出检测模式在AI Core计算完由UB搬运到OUT时产生的Atomic Add溢出问题。all同时进行AI Core算子溢出检测和Atomic Add溢出检测。默认值为“all”。[!NOTE]说明 针对Ascend 950PR/Ascend 950DTAtlas A3 训练系列产品/Atlas A3 推理系列产品Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持配置为默认值“all”。配置示例custom_op.parameter_map[dump_debug_mode].s tf.compat.as_bytes(all)dump_pathDump文件保存路径。enable_dump或enable_dump_debug为True时该参数必须配置。该参数指定的目录需要在启动训练的环境上容器或Host侧提前创建且确保安装时配置的运行用户具有读写权限支持配置绝对路径或相对路径相对执行命令行时的当前路径。绝对路径配置以“/”开头例如/home/test/output。相对路径配置直接以目录名开始例如output。配置示例custom_op.parameter_map[dump_path].s tf.compat.as_bytes(/home/test/output)dump_step训练场景下指定采集哪些迭代的Data Dump数据。多个迭代用“|”分割例如0|5|10也可以用-指定迭代范围例如0|3-5|10。若不配置该参数表示采集所有迭代的dump数据。配置示例custom_op.parameter_map[dump_step].s tf.compat.as_bytes(0|5|10)dump_data指定算子dump内容类型。tensor默认值dump算子数据。statsdump算子统计数据结果文件为csv格式。大规模训练场景下通常dump数据量太大并且耗时长可以先dump所有算子的统计数据根据统计数据识别可能异常的算子然后再指定dump异常算子的input或output数据。配置示例custom_op.parameter_map[dump_data].s tf.compat.as_bytes(stats)dump_layer指定需要dump的算子。取值为算子名多个算子名之间使用空格分隔。若不配置此字段默认dump全部算子。若指定的算子其输入涉及data算子会同时将data算子信息dump出来。配置示例custom_op.parameter_map[dump_layer].s tf.compat.as_bytes(nodename1 nodename2 nodename3)quant_dumpable如果TensorFlow网络是经过AMCT工具量化后的网络可通过此参数控制是否采集量化前的dump数据。该参数仅适用于在线推理场景。0默认值图编译过程中可能优化量化前的输入输出此时无法获取量化前的dump数据。1开启此配置后可确保能够采集量化前的dump数据。配置示例custom_op.parameter_map[quant_dumpable].s tf.compat.as_bytes(1)[!NOTE]说明 开启Data Dump的场景下可通过将此配置项配置为“1”确保可以采集量化前的dump数据。fusion_switch_file融合开关配置文件路径以及文件名。格式要求支持大小写字母a-zA-Z、数字0-9、下划线_、中划线-、句点.、中文字符。系统内置了一些图融合和UB融合规则均为默认开启可以根据需要关闭指定的融合规则当前可以关闭的融合规则请参见《图融合和UB融合规则参考》。注意Ascend 950PR/Ascend 950DT不支持UB融合。配置示例custom_op.parameter_map[fusion_switch_file].s tf.compat.as_bytes(/home/test/fusion_switch.cfg)配置文件样例fusion_switch.cfg如下所示__on表示开启off表示关闭。{ Switch:{ GraphFusion:{ RequantFusionPass:on, ConvToFullyConnectionFusionPass:off, SoftmaxFusionPass:on, NotRequantFusionPass:on, SplitConvConcatFusionPass:on, ConvConcatFusionPass:on, MatMulBiasAddFusionPass:on, PoolingFusionPass:on, ZConcatv2dFusionPass:on, ZConcatExt2FusionPass:on, TfMergeSubFusionPass:on }, UBFusion:{ TbePool2dQuantFusionPass:on } } }同时支持用户一键关闭融合规则{ Switch:{ GraphFusion:{ ALL:off }, UBFusion:{ ALL:off } } }需要注意的是由于关闭某些融合规则可能会导致功能问题因此此处的一键式关闭仅关闭系统部分融合规则而不是全部融合规则。一键式关闭融合规则时可以同时开启部分融合规则即配置文件中针对单个融合规则配置的优先级高于“ALL”{ Switch:{ GraphFusion:{ ALL:off, SoftmaxFusionPass:on }, UBFusion:{ ALL:off, TbePool2dQuantFusionPass:on } } }buffer_optimize高级开关是否开启buffer优化仅适用于在线推理场景。l2_optimize表示开启buffer优化默认为l2_optimize。off_optimize表示关闭buffer优化。配置示例custom_op.parameter_map[buffer_optimize].s tf.compat.as_bytes(l2_optimize)use_off_line是否在NPU执行训练。True默认值在NPU执行训练。False在Host侧的CPU执行训练。配置示例custom_op.parameter_map[use_off_line].b True【免费下载链接】tensorflowAscend TensorFlow Adapter项目地址: https://gitcode.com/cann/tensorflow创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考