hb_verifier工具是用于支持进行模型逐层算子输出余弦相似度对比的工具,支持进行onnx模型之间、onnx模型与hbir模型之间的对比。
余弦相似度表示不同阶段量化模型之间的一致性,余弦相似度越接近1,说明对比的两个量化模型的输出越接近。
| 参数名称 | 参数说明 |
-h, --help | 显示帮助信息。 |
-m, --model | 指定推理测试时使用的图片,仅支持*.npy文件。 多输入模型添加图片的方式有以下两种传参方式,多张图片之间用“,”分割:
|
以模型优化阶段模型 optimized_float_model.onnx 与模型校准阶段模型 calibrated_model.onnx 为例:
以模型优化阶段模型 optimized_float_model.onnx 与模型量化阶段定点模型 quantized_model.bc 为例:
所对比模型的余弦相似度信息会打印在终端内,如下示例所示:
其中:
NodeName代表算子名称。
TensorName代表该算子的第一个输出的Tensor名称。
ConsineSimilarity代表计算出的余弦相似度。