[发明专利]文本分类方法、装置、计算机设备和存储介质有效
申请号: | 202110482695.1 | 申请日: | 2021-04-30 |
公开(公告)号: | CN113011533B | 公开(公告)日: | 2023-10-24 |
发明(设计)人: | 刘翔;谷坤 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F18/241;G06F18/214;G06N3/084;G06F40/211;G06F40/284 |
代理公司: | 北京辰权知识产权代理有限公司 11619 | 代理人: | 谷波 |
地址: | 518048 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 方法 装置 计算机 设备 存储 介质 | ||
1.一种文本分类方法,其特征在于,所述方法包括:
从原始文本中提取待分析的目标文本数据;
对所述目标文本数据进行预处理,得到所述目标文本数据的分词结果;
将所述分词结果输入与训练好的文本分类模型中,所述文本分类模型基于所述分词结果得到所述目标文本数据对应的目标字向量、目标词向量和目标位置向量以及基于所述目标字向量、所述目标词向量和所述目标位置向量得到所述目标文本数据的目标分类标签;其中,所述文本分类模型为经过训练的alber模型。
2.根据权利要求1所述的文本分类方法,其特征在于,在从原始文本中提取待分类的文本数据之前,还包括:
提取待所述原始文本中关键词,并构成关键词集;
基于TF-IDF模型确定所述关键词集在各个类别的语料库中的词频-逆文档频率;
基于所述原始文本的关键词集在各个类别的语料库中的词频-逆文档频率,确定所述原始文本属于各个类别的置信度;
根据所述原始文本属于各个类别的置信度,确定所述原始文本的一级分类标签;
将所述一级分类标签与预设的一级分类标签信息进行匹配,并根据匹配结果确定是否采用所述文本分类模型对所述原始文本进行文本分类。
3.根据权利要求1所述的文本分类方法,其特征在于,所述对所述文本数据进行预处理,得到分词结果,包括:
对所述目标文本数据进行去停用词、去重中的一种,得到第二文本数据,对所述第二文本数据进行分词操作,得到分词结果。
4.根据权利要求1所述的文本分类方法,其特征在于,所述方法还包括:训练所述文本分类模型,所述训练所述文本分类模型,包括:
获取第一训练样本集,所述第一训练样本集中包含第一训练文本,且所述第一训练文本包含对应的第一分类标签;
基于所述第一训练样本集,以所述第一分类标签为分类目标预训练albert模型,得到初始文本分类模型;
判断所述初始文本分类模型的分类结果的准确率是否大于预设阈值,
如果大于所述预设阈值,则以所述初始文本分类模型为最终的文本分类模型;
如果不大于所述预设阈值,则对所述第一训练文本对应的分类标签进行纠错,并基于纠错后的第一训练样本集对所述初始文本分类模型进行迭代,直至所述初始文本分类模型的分类结果的准确率大于预设阈值。
5.根据权利要求4所述的文本分类模型的训练方法,其特征在于,所述判断所述初始文本分类模型的分类结果的准确率是否大于预设阈值,包括:
获取第二训练样本集,所述第二训练样本集中包含第二训练文本;
基于所述初始文本分类模型,得到所述第二训练样本集中的第二训练文本对应的预测分类标签;
根据所述预测分类标签和所述第二训练文本对应的第二分类标签,判断所述初始分类模型的分类结果的准确率是否大于预设阈值,其中,所述第二分类标签是通过用户人工标注的第二分类标签。
6.根据权利要求4所述的文本分类模型的训练方法,其特征在于,所述基于所述第一训练样本集,以所述第一分类标签为分类目标预训练albert模型,得到初始文本分类模型,包括:
将所述第一训练样本集按照预设的比例分为训练数据和验证数据;
将所述训练数据输入待训练的初始文本分类模型进行模型训练;
基于所述验证数据对训练后的所述初始文本分类模型进行验证,并根据验证结果得到优化后的初始文本分类模型。
7.根据权利要求4所述的文本分类模型的训练方法,其特征在于,所述对所述第一训练文本对应的分类标签进行纠错,包括:
对所述预测结果进行审核,得到预测正确的第一训练文本和预测错误的第一训练文本;
将所述预测错误第一训练文本进行人工标注,以将所述预测错误第一训练文本的标签正确标注。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110482695.1/1.html,转载请声明来源钻瓜专利网。