BEVFormer QAT/PTQ量化示例
bevformer-QAT-PTQ.zip 的量化流程还挺清晰的,尤其适合你要在部署前快速评估模型精度的时候用。压缩包里把QAT(训练时量化)和PTQ(后训练量化)都得比较完整,而且分得清楚,方便上手。
torch 量化那一套其实蛮绕的,尤其是 QAT,你要 observer、fake quant 之类的东西,不熟练的话容易踩坑。这个资源给的例子就挺实用,尤其配合地平线,torch qat 调试这篇文章,基本能跑通整套流程。
你要是对部署精度有要求,想提前把精度损失估计一下,这包里的PTQ 流程也还不错。结合horizon_qat_example,能看出怎么在实际硬件环境里调校 QAT 效果。
对了,建议你把模型换成自己的再跑一遍,看看效果差异,别直接拿 demo 模型当参考。还有,一些脚本里路径写得比较死,自己手动改下。
如果你最近在研究模型量化、部署优化,可以下载bevformer-QAT-PTQ.zip
玩玩,跑通一次就会感觉清晰多。
293.55MB
文件大小:
评论区