[发明专利]一种基于改进BERT的文本蕴含关系识别方法有效
申请号: | 202011327880.5 | 申请日: | 2020-11-24 |
公开(公告)号: | CN112417877B | 公开(公告)日: | 2022-09-27 |
发明(设计)人: | 徐玲;苏锦钿 | 申请(专利权)人: | 广州平云信息科技有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/253;G06F40/284;G06F40/30 |
代理公司: | 广东省畅欣知识产权代理事务所(普通合伙) 44631 | 代理人: | 耿佳 |
地址: | 510000 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了自然语言处理技术领域的一种基于改进BERT的文本蕴含关系识别方法,提出新的训练目标TER用于进一步学习文本蕴含关系中的蕴含、冲突和中立等关系,为了进一步增强预训练语言BERT模型中的任务相关知识,并有效缓解微调过程中因训练数据不足而导致BERT模型难以得到充分训练问题,提出预训练加任务相关预训练加微调的三阶段方法,给出相应的任务相关预训练数据的构造方法;TER‑BERT中所提出的TER训练目标及三阶段方法不仅使得BERT模型能够更好地学习文本蕴含关系,而且可以充分利用已标注的目标任务语料构造训练数据并增强BERT模型的任务相关知识,从而提高BERT模型在党建问答系统、党建文本识别及文本摘要等应用系统中的性能。 | ||
搜索关键词: | 一种 基于 改进 bert 文本 蕴含 关系 识别 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州平云信息科技有限公司,未经广州平云信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011327880.5/,转载请声明来源钻瓜专利网。