从浮点模型到端侧可用,量化不是一键转换:精度、帧率、内存三关都要过。
第一步:准备校准数据
- 用真实产线 / 现场数据做校准集,数量 200~1000 张
- 校准集要覆盖异常样本,否则量化后异常类精度崩
第二步:量化与精度回测
- INT8 量化后逐类回测精度,mAP 掉超过 2% 就要回到浮点微调
- 关注小目标与边缘样本
第三步:帧率与内存实测
- 在目标板上实测,不要看纸面算力
- 关注:单帧延迟、内存占用峰值、连续运行温度
结论
量化的收益要在目标场景里验证。建议把「精度回测 + 帧率实测」写成固定流程,每版模型都跑一遍。
本篇为示例占位文章,请管理员替换为团队真实的技术笔记。