[发明专利]植入动态类别权重的损失函数计算方法

说明书

本发明公开了植入动态类别权重的损失函数计算方法，具体包括以下步骤，步骤S1：模型训练前将目标按照尺度标记为N类；步骤S2：模型运行验证集时通过各个尺度类别正确率表现计算出各自的类别权重；步骤S3：模型训练过程定期将步骤S2计算得出的各类别类别权重植入到损失函数加权计算；模型基于yolov5‑p6框架，darknet53作为基础网络框架，使用0.3倍概率copy‑past，0.8概率masico的数据增强，和使用multi‑scale作为基础网络框架。数据集采用工厂园区经过高精度标注行样本1.2万张，共包含2.6万个行人样本.输入图像尺寸采用704*704像素。经过消融实验对比使用本专利的方法相对yolov5‑p6模型MAP提升3.2%，达到最高的93.5%，模型在350个轮次达到收敛状态相对与yolov5‑p6模型前前150个轮次，大大节省训练时间。

技术领域

本发明属于无人驾驶视觉检测技术领域，具体地说，本发明涉及植入动态类别权重的损失函数计算方法。

背景技术

日常生活、生产领域广泛应用到深度学习框架完成视觉、自然语言、规划、决策等任务。模型训练在深度学习框架中尤为重要，因为它预测能力好坏是决定深度学习框架能否成功应用落地的关键因素。模型的训练过程由多个过程完成，包括图像预处理、深度模型提取特征和预测、损失函数计算、解析器（optimizer）解析、学习率调整计划（LR-Scheduler）更新学习率等几部分组成。本专利创新的内容在损失函数模块，下面主要介绍损失函数的发展现状。

损失函数是用来度量模型的预测值f(x)与真实值Y差异程度的运算函数。通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。

损失函数主要分为两类：

1、传统的损失函数数学计算方式，比如：用于回归问题的距离度量损失函数，将输入的数据映射到基于距离度量的特征空间，比如：均方误差损失函数、L2损失函数、L1损失函数等；用于分类问题的概率分布度量损失函数，将样本间的相似性转化为随机出现的可能性，比如：交叉熵损失函数，归一化（SoftMax）损失函数等；用于检测、分割任务的形状位置度量的损失函数，将目标与预测值位置大小的差异计算，比如：C-IOU损失函数，S-IOU损失函数。

2、基于传统损失函数进行改进，增加各个类别的权重植入到传统损失函数计算输出最终的损失值，比如为了解决难易样本不均衡问题的Focal-loss。

现有损失函数计算方式普遍存在的问题：

一、传统的损失值（loss）数学计算方式是在模型的预测结果和标签之间基于距离度量、概率度量或者位置形状度量计算损失值，在训练过程没有根据实际类别正确率的表现进行指导性的加权计算。

二、增加类别尺度权重计算损失值（loss）方法，模型训练未开始前根据各个类别数量的比例设置损失函数加权的系数。它设置的是一个初始的固定值，随着训练的开展实际各个类别的正确率差异已经严重偏离了最初的样本数量的比例系数，所以不能精准指导各个类别正确率的差异和各类别训练损失函数中各自比例之间的关系。

植入动态类别权重的损失函数计算方法，主要功能是实时动态地计算各类目标类别权重，将这个权重植入损失函数计算。它是预先根据标签信息将目标标记为N类，根据验证集中各类类别正确率表现，计算出各类别的权重，然后每相隔固定训练轮数，将这个权重植入到损失函数计算的过程。这种方法更加贴合模型训练的实际情况，能够对损失函数中各类类别权重的调整做到实时、精准，从而实现对模型收敛速度加快和模型训练各类别准确率提升。

发明内容

本发明提供植入动态类别权重的损失函数计算方法，以解决上述背景技术中存在的技术问题。

为了实现上述目的，本发明采取的技术方案为：植入动态类别权重的损失函数计算方法，具体包括以下步骤，

步骤S1：模型训练前将目标按照尺度标记为N类；