[发明专利]一种通用可配置的Transformer硬件加速器及其实现方法

摘要

本发明公开了一种通用可配置的Transformer硬件加速器及其实现方法，通过计算引擎阵列、Softmax运算模块和LayerNorm运算模块可以满足整个网络层的所有运算需求；通过计算引擎阵列提高了加速器中的计算并行度，在加快计算速度的同时提高了载入到加速器内部缓存的数据的利用率；通过片上缓存模块的各个存储区能够对特征数据、偏置矩阵数据、权重数据以及参数数据进行分别存储，提高后续数据读取的效率，减少访存过程的延时，提高运算效率；计算引擎的并行度、计算引擎的数量、非线性层的运算并行度均可通过控制模块配置，能够根据不同的计算资源完成模型的部署实施，可广泛应用于神经网络模型技术领域。