推理网络精度不达标，5个方法轻松搞定

推理时精度错误或不达标，怎么办？模型推理时，模型推理功能调测OK，但推理精度错误，或推理精度与标杆数据存在少量差距，这时该怎么做呢？

华为云开发者联盟

1362人浏览 · 2022-09-09 11:32:49

华为云开发者联盟 · 2022-09-09 11:32:49 发布

摘要：推理时精度错误或不达标，怎么办？模型推理时，模型推理功能调测OK，但推理精度错误，或推理精度与标杆数据存在少量差距，这时该怎么做呢？

本文分享自华为云社区《【CANN文档速递10期】推理网络精度调优》，作者：昇腾CANN 。

一、推理时精度错误或不达标，怎么办？

模型推理时，模型推理功能调测OK，但推理精度错误，或推理精度与标杆数据存在少量差距，这时该怎么做呢？我们可以从以下两种导致精度问题的原因入手，建议先检查配置问题、再检查算子精度问题。

二、推理前，哪些配置可能影响精度？

1、JPEGD解码后的输出图片可能存在补边的无效数据，可能影响推理精度。

建议：JPEGD+VPC串联使用时，由于JPEGD解码后的输出图片的宽stride*高stride有128*16对齐的约束，因此解码后的输出图片的宽、高有一些补边的无效数据，所以VPC在处理图片前，应首先对JPEGD对齐后的输出图片进行原分辨率裁剪，目的是去除无效数据对图像精度的影响。

2、VPC输出图片格式与AIPP输入图片格式不一致，可能影响推理精度。

建议：AIPP色域转换配置中的源图片格式要与VPC的输出图片格式保持一致，如果不一致，例如，VPC的输出格式是YUV420SP（NV12），而AIPP色域转换的配置是YUV420SP（NV21）-->RGB888，则UV分量的顺序不同会影响模型推理的精度。

三、模型中算子精度不达标，怎么定位呢？

模型中算子精度不达标导致整网推理精度不达标时，可以借助精度比对工具、一键Dump比对工具，根据下文中具体的问题定位流程获取各类数据后，再进行比对、分析，逐一解决问题。

在定位问题前，我们先需要获取相关辅助工具：

• 精度比对工具：用于比对昇腾算子与业界标准算子的运算结果，也可用于比对昇腾算子多次运算结果，但需用户自行准备昇腾算子或业界标准算子的运算结果数据（即Dump数据）。该工具的获取及用法请参见配套版本的《精度比对工具使用指南》。

• 一键Dump比对工具：仅用于比对昇腾算子与TensorFlow/ONNX标准算子的运算结果，无需用户准备昇腾算子和TensorFlow/ONNX标准算子的运算结果数据，只需指定昇腾模型和TensorFlow/ONNX 模型的路径即可。该工具的获取及用法请参见https://gitee.com/ascend/tools/tree/master/msquickcmp

通过工具比对数据时，我们还需要修改或检查以下配置：

1、配置模型高精度模式

• 原因分析：

当前默认采用fp16（float16）数据类型进行计算。配置模型高精度模式后推理，可提升精度，但可能会影响推理性能，如果在精度达标的同时，需要保持性能，则可以配置部分算子保持原始网络中的数据类型。

• 配置方法：

模型高精度模式：模型转换时增加--precision_mode=allow_fp32_to_fp16

部分算子保持原始网络中的数据类型：模型转换时增加--keep_dtype参数以及--precision_mode=force_fp16

2、关闭数据缓存优化

• 原因分析：

当前默认开启数据缓存优化，开启数据缓存优化可提高计算效率、提升性能，但由于部分算子在实现上可能存在未考虑的场景，导致影响精度，因此在出现精度问题时可以尝试关闭数据缓存优化。如果关闭数据缓存优化功能后，精度达标，则还是需要识别出问题算子，反馈给华为工程师进一步分析、解决算子问题，解决算子问题后，建议保持开启数据缓存优化。

• 配置方法：

模型转换时增加--buffer_optimize=off_optimize

3、关闭融合规则

• 原因分析：

当前默认开启融合规则，开启融合规则可提高计算效率、提升性能，但算子之间可能会融合，融合后的部分算子在实现上可能存在未考虑的场景，导致影响精度，因此在出现精度问题时可以尝试关闭融合规则。如果关闭融合规则功能后，精度达标，则还是需要识别出问题算子，反馈给华为工程师进一步分析、解决算子问题，解决算子问题后，建议保持开启融合规则功能。

• 配置方法：

模型转换时增加--fusion_switch_file参数，指定融合规则配置文件，一键式关闭融合规则。融合规则配置文件内容如下：