[发明专利]一种多核处理器及其执行复杂计算的方法

说明书

公开了与由多核处理器高效执行复杂计算以及在多核处理器中的各个处理核心之间的数据移动相关的方法和系统。用于多核处理器的多核处理器堆栈能够包括计算层，用于使用多核处理器中的处理核心来进行计算，具有用于该处理核心中的处理管线的可执行指令。多核处理器堆栈还能够包括片上网络层，用于连接多核处理器中的处理核心，具有用于多核处理器中的路由器和网络接口单元的集合的可执行指令。能够通过片上网络覆盖层在逻辑上将计算层与片上网络层隔离。

相关申请的交叉引用

本申请要求于2019年8月2日提交的美国临时专利申请第62/882,065号的权益，该申请出于所有目的通过引用整体并入本文。

背景技术

处理核心可以通过跨处理核心以分布式方式执行复杂计算的分量计算来协作执行复杂计算。为此，处理核心需要共享执行那些分量计算所需的数据，并接收关于已指派哪些分量计算的指令。与复杂计算如何分解成分量计算并指派给各个处理核心相关联的技术与并行计算领域相关联。

处理核心可以经由网络连接，以便促进与并行计算相关联的数据交换。每个处理核心可以经由专用路由器连接到网络。当处理核心位于单个芯片上时，网络可以被称为片上网络(NoC)。可以使用单播、多播或广播传输在核心之间传输数据。在传统方法中，传输可以是单跳或多跳，具体取决于核心的连接方式以及源和目的地核心在网络内的物理位置。例如，当数据在相邻路由器之间串行传递并从每个中间路由器转发到最终目的地路由器时，相邻核心可以能够使用单跳传输进行通信，而远端核心可能需要经由多跳传输进行通信。

图1图示了NoC 100的一部分，其中四个处理核心101、102、103和104通过网络链接。该网络包括总线集合，这些总线使用专用路由器(诸如路由器110、111、112和113)与每个处理核心通信。路由器使用网络接口单元(NIU)与其相关联的处理核心通信。总线集合包括将路由器彼此连接以及将路由器与其NIU连接的电线。NIU在处理核心上的硬件中被实例化。处理核心101、102、103和104执行它们已经使用存储器和处理管线指派的分量计算。分量计算的输入和输出在NIU的控制下使用路由器110、111、112和113被路由。NIU是低级组件并且可以使用对应的低级存储器复制原语(primitive)执行数据传输，其中将处理核心上的存储器的本地片段复制到另一个处理核心上的存储器的远程片段。在单跳单播数据传输的基本情况下，存储器复制操作涉及从源核心上的存储器复制有限固定尺寸的缓冲区，然后经由总线将其写入目的地核心上的缓冲区。为了传输大量数据，系统需要发出多个存储器复制操作。

图1还图示了同一NoC 100的层图150。在层图150和本公开中的所有其它层图中，具有尖锐边的方框指示硬件，而具有圆形边的方框指示由其上堆叠有方框的硬件实例化的软件。层图示出了计算层151和NoC层152，其中计算层151由处理管线执行的指令实例化并存储在每个处理核心的存储器中，而NoC层152由NIU、路由器和各种核心上的实现与核心之间的数据传输相关联的低级原语的缓冲区执行的指令实例化。如以下发明内容中所述，此处使用执行指令的概念来描述进行任何逻辑或数据移动操作的设备的操作，即使“指令”完全在硬件中指定(例如，AND门执行“与”指令)。该术语无意表示对设备可编程的能力。实际上，本领域普通技术人员将认识到的是，NIU不是高度可配置的或可编程的。在上面提到的单跳单播数据传输示例中，执行低级原语(诸如存储器复制操作)的指令仍然相当多并且涉及识别将数据复制到的存储器的远程片段，从而确保存储器的远程片段具有足够的空间用于复制操作、跟踪并保留存储器的本地片段、为NIU提供数据本身和要传输的每条数据的地址，并且还跟踪存储器复制操作的状态。在较大的缓冲区的情况下，指令还涉及将数据分解成多个存储器复制操作。