[发明专利]一种基于脉冲Transformer模型的图片描述方法在审
申请号: | 202310682762.3 | 申请日: | 2023-06-09 |
公开(公告)号: | CN116701696A | 公开(公告)日: | 2023-09-05 |
发明(设计)人: | 梁秀波;张璇;王宏志 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06F16/583 | 分类号: | G06F16/583;G06V10/82;G06V10/42;G06V10/44;G06N3/049;G06N3/0455;G06N3/08 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 邱启旺 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本发明公开了一种基于脉冲Transformer模型的图片描述方法,其方案:首先设计一个更符合生物多样性的,具有可学习膜电位时间常数和电压阈值新型脉冲神经元PLMP,该神经元能够优化脉冲模型训练梯度消失的问题;利用PLMP神经元将Transformer中普通的自注意力机制改造为脉冲注意力机制;利用脉冲自注意力机制搭建一个脉冲Transformer用于图片描述模型训练;最终效得到一个适用于图片描述领域、节能的、可以生成高质量的图片描述的脉冲Transformer模型。 | ||
搜索关键词: | 一种 基于 脉冲 transformer 模型 图片 描述 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310682762.3/,转载请声明来源钻瓜专利网。
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法