[发明专利]一种融合语法信息的句子压缩方法

权利要求书

1.一种融合语法信息的句子压缩方法，其特征在于，包括以下步骤：

S1、对句子压缩网络中的参数θ进行随机初始化；

S2、从数据集获取压缩前句子的序列X＝{x₁,...,x_n}、词性序列S＝{s₁,...,s_n}和对应的压缩序列标签Y_real＝{y₁,...,y_m}；

S3、以时间步为单位，将原句子序列X的每个单词以及词性序列S中对应词性依次输入到网络中所对应的编码器中去；

S4、把单词网络编码器最后一个时间步的隐状态h_xen作为单词解码器的初始隐状态h_xd0，将词性网络编码器的最后一个时间步的隐状态h_sen作为词性解码器的初始隐状态h_sd0；

S5、以时间步为单位，同样将原句子序列X和词性序列S中的每个单词输入到所对应的单词解码器和词性解码器中；

S6、编码器接收上一个时间步预测出的标签拼接当前时间步的单词或词性输入，使用当前时间步的词性解码器的输出做为当前时间步的单词解码器输出语法门控，生成标签的概率分布

S7、通过选择最大概率来得到当前输入单词的标签

其中，网络的损失函数为：

利用梯度下降算法更新整体网络参数，梯度公式如下，其中α为学习率：

2.如权利要求1所述的融合语法信息的句子压缩方法，其特征在于:所述句子压缩网络是一种可调节数值的网络；所述参数是指在人工神经网络中被调节的权重，是被学习算法调节的数值参数；权重则为神经元之间的连接强度。

3.如权利要求1所述的融合语法信息的句子压缩方法，其特征在于:所述步骤S2中的数据集是由人工或者机器采集，是一种原句子-压缩句子数据对，按比例拆分为训练集和测试集分别用于训练学习网络和评价网络的可靠性。

4.如权利要求1所述的融合语法信息的句子压缩方法，其特征在于:所述时间步是循环神经网络在处理序列数据按时间单位输入；其中所述词性网络编码器和词性解码器是一个长短期记忆网络；所述单词网络编码器结构是一个带有短路结构的三层长短期记忆网络，单词解码器部分为长短期记忆网络的一种变体，增加了语法门控使得语法输出能够对标签的输出进行控制。

5.如权利要求2所述的融合语法信息的句子压缩方法，其特征在于:所述步骤S5根据网络结构和参数权重，输出层映射是否保留当前单词的标签。

6.如权利要求1所述的融合语法信息的句子压缩方法，其特征在于:所述梯度下降算法如下：

假设有一个关于神经网络的参数θ的目标函数J(θ)

计算J(θ)的梯度：

以学习率α(α>0)更新参数θ，

梯度下降算法是一种迭代求解最小值的算法，它能够在迭代的过程中使得J(θ)减小，直至达到局部或全局最小值。