Skip to content

yolov5s v4.0版本int8量化之后精度降低很多 #2

@zhvn100

Description

@zhvn100

使用的是5000张coco训练的数据集,按照你的这个ncnn2table的参数,使用KL的放法去calibration。对比bus.jpg和一张测试集的图片,精度下降很厉害,不知道是什么原因微信截图_20210712141902

微信截图_bus

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions