[发明专利]一种语言模型训练方法、装置、设备和存储介质在审
申请号: | 202310914142.8 | 申请日: | 2023-07-25 |
公开(公告)号: | CN116663679A | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 王鹏远;庞竟成;陈雄辉;俞扬 | 申请(专利权)人: | 南栖仙策(南京)高新技术有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F16/35 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 岳晓萍 |
地址: | 210000 江苏省南京市江宁区麒麟*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例公开了一种语言模型训练方法、装置、设备和存储介质,其中,方法包括:将预设无标签问题样本输入至初始语言模型中的答案生成子模型中,得到模型输出答案;基于所述初始语言模型中的答案评价子模型和所述预设无标签问题样本的语言问题类型对所述模型输出答案进行评估,得到答案评估结果;基于所述答案评估结果对所述答案生成子模型进行更新,得到目标语言模型。本发明实施例的技术方案解决了现有无监督语言模型训练方法训练出的语言模型适用场景单一的问题,可以使训练后的语言模型在各种语言类型问题中也能有良好的适用性,丰富语言模型的适用场景,提高语言模型的通用性。 | ||
搜索关键词: | 一种 语言 模型 训练 方法 装置 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南栖仙策(南京)高新技术有限公司,未经南栖仙策(南京)高新技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310914142.8/,转载请声明来源钻瓜专利网。