[发明专利]利用量化模型进行图像处理的系统、装置及存储介质

摘要

一种利用量化模型进行图像处理的系统、装置及存储介质，涉及AI技术领域，该方法包括：修改源模型各层中的量化比特数和量化策略得到的N个个体，N个个体可以组成种群，分别对种群中的N个模型进行训练，并在训练后的N个个体中选择M个优秀个体，M小于N，结合遗传算法的思想，将M个优秀个体进行交叉操作和/或变异操作，得到下一代种群，下一代种群中可以包括N个经过交叉操作和/或变异操作后的新个体，继续对下一代种群中的新个体进行类似于对初始种群的训练、选择、交叉操作和/或变异操作，再次得到下下一代种群，经过如此迭代，达到一定次数后，可以基于优胜劣汰的原理，得到精度较高和计算量较小的量化后的模型。