本申请涉及数据加载,尤其涉及一种数据加载方法及相关装置。
背景技术:
1、目前,在大数据平台建设中,需要对接入平台的各个上游业务系统传输过来的文本表结构进行解析和加载,因此需要平台与上游业务系统之间时刻保持平台表结构和文本表结构的高度一致,即平台与上游业务系统之间的开发需要保持一致,否则将导致平台批量作业失败。
2、由于上游业务系统的开发与平台加载存在紧耦合关系,因此,当上游业务系统的文本表结构发生变更后,需要花费大量人力和时间对平台进行接口比对测试。
技术实现思路
1、鉴于上述问题,本申请提供了一种数据加载方法及相关装置,以实现降低上游业务系统开发与平台加载存在的紧耦合关系,在上游业务系统的文本表结构发生变更后,无需人工进行接口比对测试,从而省去因接口比对测试所花费的人力和时间的目的。具体方案如下:
2、一种数据加载方法,包括:
3、当需要对上游业务系统进行批量作业时,判断变更信息表中是否记录有所述上游业务系统在自身文本表结构发生变更后发送的变更信息;
4、如果是,则基于所述变更信息从信息发布表中查找所述上游业务系统的最新业务系统表信息,其中,所述最新业务系统表信息为所述上游业务系统在自身文本表结构发生变更后发送的最新文本表清单中的信息;
5、基于所述变更信息和所述最新业务系统表信息对平台已建立的业务系统表信息进行更新,得到目标业务系统表信息;
6、在所述平台的下一批量日期,按照目标业务系统表信息对所述上游业务系统的最新变更文本表结构进行解析得到目标文本表结构;
7、对所述目标文本表结构进行加载,完成批量作业。
8、可选地,所述基于所述变更信息从信息发布表中查找所述上游业务系统的最新业务系统表信息,包括:
9、从所述变更信息中提取出变更生效日期;
10、判断所述变更生效日期与所述平台的所述下一批量日期是否一致;
11、如果是,则根据所述变更信息中包含的变更标识,从所述信息发布表中查找所述最新业务系统表信息。
12、可选地,所述基于所述变更信息和所述最新业务系统表信息对平台已建立的业务系统表信息进行更新,得到目标业务系统表信息,包括:
13、将所述最新业务系统表信息与所述平台已建立的所述业务系统表信息进行比对,得到所述上游业务系统的当前变更操作类型;
14、判断所述当前变更操作类型与所述变更信息中包含的变更操作类型是否一致;
15、如果是,则根据所述变更操作类型和所述最新业务系统表信息对所述平台已建立的所述业务系统表信息进行更新,得到所述目标业务系统表信息。
16、可选地,还包括:
17、若所述当前变更操作类型与所述变更信息中包含的变更操作类型不一致,则向所述上游业务系统在所述平台设置的联系人发送提示信息。
18、可选地,还包括:
19、当所述变更信息表中未记录所述变更信息时,按照所述平台已建立的所述业务系统表信息对所述上游业务系统的未变更文本表结构进行解析,得到目标未变更文本表结构;
20、对所述目标未变更文本表结构进行加载,完成批量作业。
21、一种数据加载装置,包括:
22、判断单元,用于当需要对上游业务系统进行批量作业时,判断变更信息表中是否记录有所述上游业务系统在自身文本表结构发生变更后发送的变更信息;
23、查找单元,用于在所述判断单元判断为是的情况下,基于所述变更信息从信息发布表中查找所述上游业务系统的最新业务系统表信息,其中,所述最新业务系统表信息为所述上游业务系统在自身文本表结构发生变更后发送的最新文本表清单中的信息;
24、表信息更新单元,用于基于所述变更信息和所述最新业务系统表信息对平台已建立的业务系统表信息进行更新,得到目标业务系统表信息;
25、变更信息解析单元,用于在所述平台的下一批量日期,按照目标业务系统表信息对所述上游业务系统的最新变更文本表结构进行解析得到目标文本表结构;
26、变更信息加载单元,用于对所述目标文本表结构进行加载,完成批量作业。
27、可选地,所述查找单元具体用于:
28、从所述变更信息中提取出变更生效日期;
29、判断所述变更生效日期与所述平台的所述下一批量日期是否一致;
30、如果是,则根据所述变更信息中包含的变更标识,从所述信息发布表中查找所述最新业务系统表信息。
31、一种计算机程序产品,包括计算机可读指令,当所述计算机可读指令在电子设备上运行时,使得所述电子设备实现上述所述的数据加载方法。
32、一种电子设备,包括至少一个处理器和与所述处理器连接的存储器,其中:
33、所述存储器用于存储计算机程序;
34、所述处理器用于执行所述计算机程序,以使所述电子设备能够实现上述所述的数据加载方法。
35、一种计算机存储介质,所述存储介质承载有一个或多个计算机程序,当所述一个或多个计算机程序被电子设备执行时,能够使所述电子设备实现上述所述的数据加载方法。
36、从上述的技术方案可知,本发明公开了一种数据加载方法及相关装置,当平台需要对上游业务系统进行批量作业时,若确定变更信息表中记录有上游业务系统在自身文本表结构发生变更后发送的变更信息时,平台会基于变更信息从信息发布表中查找上游业务系统的最新业务系统表信息,并基于变更信息和最新业务系统表信息对平台已建立的业务系统表信息进行更新,得到目标业务系统表信息,在平台的下一批量日期,平台按照目标业务系统表信息对上游业务系统的最新变更文本表结构进行解析得到目标文本表结构,通过对目标文本表结构进行加载完成批量作业。本发明中上游业务系统在自身文本表结构发生变更后,通过向平台发送对应的变更信息和最新业务系统表信息,便于平台自适应更新业务系统表信息,以便平台从上游业务系统加载最新变更文本表结构,完成批量作业。因此,本发明降低了上游业务系统开发与平台加载存在的紧耦合关系,在上游业务系统的文本表结构发生变更后,无需人工进行接口比对测试,从而省去了因接口比对测试所花费的人力和时间。
1.一种数据加载方法,其特征在于,包括:
2.根据权利要求1所述的数据加载方法,其特征在于,所述基于所述变更信息从信息发布表中查找所述上游业务系统的最新业务系统表信息,包括:
3.根据权利要求1或2所述的数据加载方法,其特征在于,所述基于所述变更信息和所述最新业务系统表信息对平台已建立的业务系统表信息进行更新,得到目标业务系统表信息,包括:
4.根据权利要求3所述数据加载方法,其特征在于,还包括:
5.根据权利要求1所述数据加载方法,其特征在于,还包括:
6.一种数据加载装置,其特征在于,包括:
7.根据权利要求6所述的数据加载装置,其特征在于,所述查找单元具体用于:
8.一种计算机程序产品,其特征在于,包括计算机可读指令,当所述计算机可读指令在电子设备上运行时,使得所述电子设备实现如权利要求1至5中任意一项所述的数据加载方法。
9.一种电子设备,其特征在于,包括至少一个处理器和与所述处理器连接的存储器,其中:
10.一种计算机存储介质,其特征在于,所述存储介质承载有一个或多个计算机程序,当所述一个或多个计算机程序被电子设备执行时,能够使所述电子设备实现如权利要求1至5中任意一项所述的数据加载方法。