onnxruntime range check for relu output

[wangtiance]

For relu op, setting QuantizationProperty as SYMMETRICAL and quant_min/quant_max to 0/255 and export the graph with platform=TargetPlatform.ONNXRUNTIME causes warning messages like this:

[Warning] Is it not safe to export TQC(/cnn/cnn.0/cnn.0.2/Relu_output_0) to Onnx, INT8 value range must be [-128, 127] or [0, 255], however [(0, 255)] was given.

But setting quant_min/quant_max to -128 and 127 leads to slightly worse quantization errors. Should relu output be set as ASYMMETRICAL? or should i just ignore these warning messages?

[ZhangZhiPku]

在这里，是否使用对称量化取决于你的硬件和推理框架，不应该取决于ONNX或者PPQ。
所以如果你的硬件使用非对称量化，那么你应当设置RELU的输出为非对称的。
如果你得硬件使用对称量化，那么你应当设置RELU的输出为对称的。

[wangtiance]

感谢回复。警告信息来自这里：
https://github.com/OpenPPL/ppq/blob/master/ppq/parser/onnxruntime_exporter.py#L33

看起来，如果QuantizationProperty是SYMMETRICAL，那么quant_min/quant_max就应当设置为-128和127，但是如果这样设置的话，relu的输出只能使用[0,127]这个区间，相当于掉了一位精度

我们的硬件平台是没有FPU的CPU，不能直接用onnx模型推理，但是会导出量化后的参数。应该只能使用SYMMETRICAL + POWER OF 2 QUANTIZATION 吧