目录

量化模型收益

Quant_INT8-8量化收益

以resnet-18为例,使用轻量化工具后(Quant_INT8-8量化)的收益如下。

框架 数据集 模型 原始精度 重训练后精度

非量化OM离线

模型体积(MB)

Quant_INT8-8量化OM

离线模型体积(MB)

TensorFlow ImageNet resnet-18(v2) 70.0% 70.0% 22.457 11.9

网络结构搜索工具分类场景收益对比

以resnet-18为例,使用轻量化工具后(网络结构搜索)的收益如下。

框架 数据集 模型 参数量(M) 精度
TensorFlow ImageNet ResNet-18 11.69 70.32%
TensorFlow ImageNet NASEA 10.93 72.13%[1]
PyTorch ImageNet ResNet-18 11.69 69.6%
PyTorch ImageNet NASEA 11.4 72.88%

[h2]检测场景收益对比

框架 数据集 模型 计算量(G) mAP@[.5, .95][2]
SSD(backbone:ResNet-18) COCO ResNet-18 11.6 17.8[3]
SSD(backbone:ResNet-18) COCO NASEA 9.25 18.4[3]

[h2]分割场景收益对比

框架 数据集 模型 计算量(G) mIOU[4]
TensorFlow VOC ResNet-18 + Deeplab v3 40.9 54.1[5]
TensorFlow VOC NASEA 28.3 56.1[5]
PyTorch VOC ResNet-18 + Deeplab v3 43.7 64.2
PyTorch VOC NASEA 30.7 65.1

[1] 此精度是使用tensorpack重训练模型得出。

[2] 此指标的计算方法为:IoU(Intersection over Union)从0.5~0.95区间上,以0.05为间隔计算AP的值,再计算所有AP的均值。

[3] 此精度是在COCO val2017数据集上测试得出。

[4] 此指标为平均交并比,计算方法为先求每个类别的交并比,再平均。

[5] 此精度是在VOC val2012数据集上测试得出。