数据读入、数据读出方法、电子设备、存储介质和程序产品与流程

本发明涉及人工智能，尤其涉及一种数据读入、数据读出方法、电子设备、存储介质和程序产品。

背景技术：

1、在编程语言中，算子通常指代一种对数据进行操作的运算符号，例如加法、减法、乘法、除法等。其中，在对数据进行算子操作时，需要将相应数据读入至执行单元(如execution unit，eu)，以在执行单元对数据进行相应运算。

2、目前，在进行数据读入时，通常是将多个输入加载到多个片上存储区中，再从多个片上存储区中分别读入多个输入进行相应运算，但该方法数据读入效率较低。此外，在进行数据读出时，通常是将从eu上读取的多个输出存储至多个片上存储区，再从多个片上存储区分别读出各输出，但该方法存在数据读出效率较低的问题。

技术实现思路

1、本发明提供一种数据读入、数据读出方法、电子设备、存储介质和程序产品，用以解决数据读入和/或读出效率较低的缺陷。

2、本发明提供一种数据读入方法，包括：

3、确定至少两个输入；

4、将各输入中的输入数据元素以交替方式加载到同一片上存储区，并从所述同一片上存储区上同时读入多个输入数据元素。

5、根据本发明提供的一种数据读入方法，所述将各输入中的输入数据元素以交替方式加载到同一片上存储区，并从所述同一片上存储区上同时读入多个输入数据元素，包括：从各输入对应的显存中，将各输入中的输入数据元素以交替方式加载到同一片上存储区，并从所述同一片上存储区上同时读入所述多个输入数据元素至执行单元。

6、根据本发明提供的一种数据读入方法，所述从所述同一片上存储区上同时读入多个输入数据元素至执行单元，之后还包括：

7、在所述执行单元上，基于所述多个输入数据元素进行运算，得到运算结果。

8、根据本发明提供的一种数据读入方法，从所述同一片上存储区上同时读入的输入数据元素的数量为所述输入数量的整数倍。

9、本发明还提供一种数据读出方法，包括：

10、确定输入对应的至少两个输出；

11、从执行单元上同时读出各输出中的多个输出数据元素，并将读出的各输出数据元素以交替方式存储至同一片上存储区。

12、根据本发明提供的一种数据读出方法，所述将读出的各输出数据元素以交替方式存储至同一片上存储区，之后还包括：

13、从所述同一片上存储区中，读出各输出的输出数据元素，并将读出的各输出数据元素存储至各输出对应的显存中。

14、根据本发明提供的一种数据读出方法，存储至所述同一片上存储区上的输出数据元素的数量为所述输出数量的整数倍。

15、本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述任一种所述数据读入方法或数据读出方法。

16、本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述数据读入方法或数据读出方法。

17、本发明还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述数据读入方法或数据读出方法。

18、本发明提供的数据读入、数据读出方法、电子设备、存储介质和程序产品，将各输入中的输入数据元素以交替方式加载到同一片上存储区，进而可以从同一片上存储区上一次性同时读入多个输入数据元素，而不需要分多次从各片上存储区中读入对应的输入数据元素，进而提高了数据读入效率。

技术特征：

1.一种数据读入方法，其特征在于，包括：

2.根据权利要求1所述的数据读入方法，其特征在于，所述将各输入中的输入数据元素以交替方式加载到同一片上存储区，并从所述同一片上存储区上同时读入多个输入数据元素，包括：

3.根据权利要求2所述的数据读入方法，其特征在于，所述从所述同一片上存储区上同时读入多个输入数据元素至执行单元，之后还包括：

4.根据权利要求1至3任一项所述的数据读入方法，其特征在于，从所述同一片上存储区上同时读入的输入数据元素的数量为所述输入数量的整数倍。

5.一种数据读出方法，其特征在于，包括：

6.根据权利要求5所述的数据读出方法，其特征在于，所述将读出的各输出数据元素以交替方式存储至同一片上存储区，之后还包括：

7.根据权利要求6所述的数据读出方法，其特征在于，存储至所述同一片上存储区上的输出数据元素的数量为所述输出数量的整数倍。

8.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至4任一项所述数据读入方法，或，如权利要求5至7任一项所述数据读出方法。

9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至4任一项所述数据读入方法，或，如权利要求5至7任一项所述数据读出方法。

10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至4任一项所述数据读入方法，或，如权利要求5至7任一项所述数据读出方法。

技术总结
本发明提供一种数据读入、数据读出方法、电子设备、存储介质和程序产品，所述数据读入方法包括：确定至少两个输入；将各输入中的输入数据元素以交替方式加载到同一片上存储区，并从同一片上存储区上同时读入多个输入数据元素。本发明将各输入中的输入数据元素以交替方式加载到同一片上存储区，进而可以从同一片上存储区上一次性同时读入多个输入数据元素，而不需要分多次从各片上存储区中读入对应的输入数据元素，进而提高了数据读入效率。

技术研发人员：请求不公布姓名,请求不公布姓名,请求不公布姓名
受保护的技术使用者：上海壁仞科技股份有限公司
技术研发日：
技术公布日：2024/9/23