[发明专利]预训练模型的训练方法、编码特征获取方法及相关装置有效
| 申请号： | 202110791198.X | 申请日： | 2021-07-13 |
| 公开（公告）号： | CN113257238B | 公开（公告）日： | 2021-10-01 |
| 发明（设计）人： | 李航;康昱;丁文彪;刘子韬 | 申请（专利权）人： | 北京世纪好未来教育科技有限公司 |
| 主分类号： | G10L15/06 | 分类号： | G10L15/06;G10L15/16;G10L25/30;G06F40/289;G06F40/126 |
| 代理公司： | 上海知锦知识产权代理事务所(特殊普通合伙) 31327 | 代理人： | 李丽 |
| 地址： | 100144 北京市海淀区中*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本公开实施例公开了一种预训练模型的训练方法、编码特征获取方法及相关装置，方法包括：获取待识别音频的各音频帧特征与文本特征；通过文本编码模块对文本特征进行编码，得到文本编码特征；随机选择音频帧特征进行掩码处理，得到掩码音频帧特征序列；通过音频编码模块，结合文本编码特征，对各掩码音频帧特征进行编码，得到掩码音频帧编码特征序列；根据各个掩码音频帧编码特征，获取各个训练音频帧特征，并获取音频损失，调整预训练模型的参数，直至音频损失满足损失音频阈值，得到训练好的文本编码模块和音频编码模块。本公开实施例公开的预训练模型的训练、编码特征获取方法及装置，能够在较小的标注量的基础上，提高模型训练的准确性。 | ||
| 搜索关键词： | 训练 模型 方法 编码 特征 获取 相关 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京世纪好未来教育科技有限公司，未经北京世纪好未来教育科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110791198.X/，转载请声明来源钻瓜专利网。
