一种app采集数据的收集方法、终端、服务器及系统的制作方法

xiaoxiao2020-10-23  15

一种app采集数据的收集方法、终端、服务器及系统的制作方法
【技术领域】
[0001]本发明涉及数据传输控制技术领域,尤其涉及一种智能终端的APP采集数据的收集方法、终端、服务器及系统。
【背景技术】
[0002]随着智能手机等移动智能终端技术的发展,各种智能终端APP (APPI i cat 1n,智能手机的第三方应用程序)大量涌现,改变着我们的生活。但大部分APP的数据采集都是采用定制化接口的方式,通过json (JavaScript Object Notat1n,一种轻量级的数据交换格式)上传到服务器端数据库。这种数据采集、传输方式一方面不利于APP产品开发的周期和成本,而且由于频繁访问服务器,对服务器资源造成了不必要的浪费;此外,一旦APP产品对不同数据的采集指标发生变化时,则需要修改对应的接口,造成不兼容隐患,返工成本大大增加。

【发明内容】

[0003]本发明的目的在于提出一种APP采集数据的收集方法、终端、服务器及系统,能够统一上传智能终端不同APP的采集数据,有利于减小APP产品的开发周期和成本,节约服务器资源,提高数据统计效率。
[0004]为达此目的,本发明采用以下技术方案:
[0005]本发明一方面提供一种APP采集数据的收集方法,包括,
[0006]智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件;
[0007]所述数据采集公共组件将所述采集数据转换为对应的数据文件;
[0008]所述数据采集公共组件将所述数据文件上传到服务器。
[0009]其中,所述数据采集公共组件将所述数据文件上传到服务器,包括,
[0010]所述数据采集公共组件通过异步方式获取服务器的配置信息,按照与所述配置信息对应的方式将所述数据文件上传到服务器。
[0011]其中,所述配置信息包括:上传时间段、上传频率、开关、联网类型中一种或多种;
[0012]所述采集数据包括:装机量、用户支付情况、使用时长、各模块点击量、每月/日/周的活跃用户量中一种或多种;
[0013]所述数据采集公共组件为基于智能终端操作系统开发的SDK,用于接收不同APP的采集数据并统一发送给服务器。
[0014]本发明又一方面提供一种APP采集数据的收集方法,包括,
[0015]通过预设的数据统计公共组件接收智能终端上传的数据文件;所述数据文件为,由智能终端将不同APP的采集数据转换得到的文件;
[0016]分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。
[0017]其中,所述通过预设的数据统计公共组件接收智能终端上传的数据文件之后,还包括,
[0018]按照预设的策略对接收到的多个数据文件进行压缩合并,并将压缩合并得到的文件备份到公共服务器;
[0019]以及,
[0020]按照设定时间周期删除接收到的数据文件,清理磁盘空间。
[0021]其中,所述通过预设的数据统计公共组件接收智能终端上传的数据文件;分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录,包括,
[0022]通过所述数据文件的MD5信息验证所述数据文件是否存在重传,若不存在,通过所述数据统计公共组件接收智能终端上传的数据文件;
[0023]识别所述数据文件中包含的业务码,所述业务码用作APP采集数据的唯一标识;根据所述业务码确定所述数据文件中包含的APP采集数据;
[0024]根据所述业务码将各APP采集数据分别存储到对应的存储目录。
[0025]其中,所述数据文件的文件名格式为:UUID+BUSSINESS CODE+年月日时分秒;
[0026]所述MD5信息为所述数据文件的文件名。
[0027]本发明又一方面提供一种APP采集数据的收集方法,包括,
[0028]智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件;
[0029]所述数据采集公共组件将所述采集数据转换为对应的数据文件;
[0030]所述数据采集公共组件将所述数据文件上传到服务器;
[0031]服务器通过预设的数据统计公共组件接收所述数据文件;
[0032]分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。
[0033]本发明又一方面提供一种APP采集数据的收集终端,包括,
[0034]数据收集模块,用于控制智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件;
[0035]文件生成模块,用于通过所述数据采集公共组件将所述采集数据转换为对应的数据文件;
[0036]数据上传模块,用于通过所述数据采集公共组件将所述数据文件上传到服务器。
[0037]其中,还包括,收发模块,用于通过异步方式获取服务器的配置信息;
[0038]所述数据上传模块,还用于控制所述数据采集公共组件按照与所述配置信息对应的方式将所述数据文件上传到服务器。
[0039]其中,所述配置信息包括:上传时间段、上传频率、开关、联网类型中一种或多种;
[0040]所述采集数据包括:装机量、用户支付情况、使用时长、各模块点击量、每月/日/周的活跃用户量中一种或多种;
[0041]所述数据采集公共组件为基于智能终端操作系统开发的SDK,用于接收不同APP的采集数据并统一发送给服务器。
[0042]本发明又一方面提供一种服务器,包括,
[0043]数据接收模块,用于通过预设的数据统计公共组件接收智能终端上传的数据文件;所述数据文件为,由智能终端将不同APP的采集数据转换得到的文件;
[0044]数据分析模块,用于分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。
[0045]其中,还包括,备份模块,用于按照预设的策略对接收到的多个数据文件进行压缩合并,并将压缩合并得到的文件备份到公共服务器;
[0046]以及,
[0047]清理模块,用于按照设定时间周期删除接收到的数据文件,清理磁盘空间。
[0048]其中,所述数据接收模块,具体用于通过所述数据文件的MD5信息验证所述数据文件是否存在重传,若不存在,通过所述数据统计公共组件接收智能终端上传的数据文件;
[0049]所述数据分析模块,具体用于识别所述数据文件中包含的业务码,所述业务码用作APP采集数据的唯一标识,根据所述业务码确定所述数据文件中包含的APP采集数据,根据所述业务码将各APP采集数据分别存储到对应的存储目录。
[0050]其中,所述数据文件的文件名格式为:UUID+BUSSINESS CODE+年月日时分秒;
[0051]所述MD5信息为所述数据文件的文件名。
[0052]本发明又一方面提供一种APP采集数据的收集系统,包括终端和服务器,所述终端包括,
[0053]数据收集模块,用于控制智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件;
[0054]文件生成模块,用于通过所述数据采集公共组件将所述采集数据转换为对应的数据文件;
[0055]数据上传模块,用于通过所述数据采集公共组件将所述数据文件上传到服务器;
[0056]所述服务器包括,数据接收模块,用于通过预设的数据统计公共组件接收智能终端上传的数据文件;
[0057]数据分析模块,用于分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。
[0058]实施本发明实施例,具有如下有益效果:
[0059]本发明方案通过在智能终端开发一套公共的数据采集组件,统一上传智能终端不同APP的采集数据,有利于减小APP产品的开发周期和成本,节约服务器资源,提高数据统计效率。
【附图说明】
[0060]为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以 根据这些附图获得其他的附图。
[0061]图1是本发明第一实施例的APP采集数据的收集方法的流程示意图。
[0062]图2是本发明第二实施例的APP采集数据的收集方法流程示意图。
[0063]图3是本发明第三实施例的APP采集数据的收集终端的结构示意图。
[0064]图4是本发明第四实施例的APP采集数据的收集服务器的结构示意图。
【具体实施方式】
[0065]下面结合本发明的附图对本发明实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0066]第一实施例:
[0067]实现本发明第一实施例的硬件基础可以为智能手机、平板电脑等智能终端,这类智能终端上安装了多个不同的APP,各APP可采集的数据包括:装机量、用户支付情况、使用时长、各模块点击量、每月/日/周等的活跃用户量;特别的,本实施例中,预先基于智能终端操作系统开发的一个数据采集公共组件,可封装为SDK的形式,可用于接收不同APP的采集数据并统一发送给服务器。该数据采集公共组件可以异步获取服务器的配置信息,并可按照配置信息对应的策略以文件的形式将不同App的采集数据上传到服务器。
[0068]下面结合图1对本发明第一实施例的APP采集数据的收集方法流程进行说明,包括如下步骤:
[0069]步骤S101,智能终端的不同APP将各自的采集数据发送给智能终端的数据采集公共组件。
[0070]本实施例中,智能终端的不同APP的采集数据可用对应的业务码进行唯一标识,不同APP将各自的采集数据发送给智能终端的数据采集公共组件时,会携带对应的业务码一并发送给所述数据采集公共组件。
[0071]步骤S102,所述数据采集公共组件将所述采集数据转换为对应的数据文件。
[0072]本实施例中,基于服务器对文件的写操作比写数据库更高效的考虑,在智能终端将所述采集数据组织为对应的文件格式,生成对应的数据文件。对于生成数据文件的具体技术本发明不作限定。
[0073]步骤S103,所述数据采集公共组件将所述数据文件上传到服务器。
[0074]本实施例中,数据采集公共组件异步获取服务器的配置信息之后,按照与所述配置信息对应的方式将所述数据文件上传到服务器。优选的,本实施例中,服务器的配置信息包含上传时间段、上传频率、开关、联网类型等。
[0075]通过本发明第一实施例,在智能终端的多个APP,无需单独将各自的采集数据上传给服务器,因此可有效解决终端频繁访问服务器,对服务器资源造成了不必要的浪费的问题;通过在智能终端开发一套公共的数据采集组件,统一上传智能终端不同APP的采集数据,有利于减小APP产品的开发周期和成本,节约服务器资源,提高数据统计效率。
[0076]第二实施例:
[0077]第二实施例基于与智能终端对应的服务器端,给出了一种服务器端收集APP采集数据的方法的优选实施方式,下面结合图2对本发明的第二实施例进行说明,包括如下步骤。
[0078]步骤S201,在服务器端预设一个数据统计公共组件,该数据统计公共组件与智能终端的数据采集公共组件相对应,用于接收智能终端上传的数据文件。
[0079]步骤S202,通过所述数据文件的MD5 (Message Digest Algorithm 5,消息摘要算法第五版)信息验证所述数据文件是否存在重传?若否,执行下一步,否则,不接收当前数据文件。
[0080]本实施例中,具体验证过程可采用现有的相关技术实现,本发明对此不作限定。
[0081]步骤S203,通过所述数据统计公共组件接收智能终端上传的数据文件。本实施例中的数据文件为:由智能终端预设的数据采集公共组件上传的、将不同APP的采集数据转换得到的文件。
[0082]优选的,为了提高数据传输的可靠性,在服务器负载均衡方面,本实施例中服务器可为由HaProxy (反向代理,服务器的负载均衡)负载之后的服务器阵列,每台服务器根据权重分担高并发请求,HaProxy连接服务器阵列,发送请求给服务器,HaProxy之外还可以通过Nginx (可以做为应用服务器)做负载均衡。
[0083]步骤S204,分析所述数据文件,得到所述不同APP的采集数据。
[0084]优选的,本实施例中可通过所述数据统计公共组件识别数据文件中包含的业务码,这里的业务码用作APP采集数据的唯一标识,通过业务码也区分不同APP采集数据,因此可根据不同的业务码确定所述数据文件中包含的不同APP采集数据。所述数据文件的文件名格式可以为:UUID+BUSSINESS CODE+年月日时分秒;所述MD5信息为所述数据文件的文件名。
[0085]步骤S205,将各APP的采集数据分别存储到对应目录。
[0086]本实施例中,还需预先在服务器中设置对应的存储目录,用于存储APP采集数据,优选的,还可建立存储目录与业务码之间的对应关系,以便根据业务码将数据文件中包含的各APP采集数据分别存储到对应的存储目录下,便于后期报表管理等数据管理操作。
[0087]步骤S206,按照预设的策略对接收到的多个数据文件进行合并,并将合并得到的文件备份到公共服务器。
[0088]本实施例中,每台服务器可根据一个统一策略(例如:1、多个服务器采集的同一个应用的数据集合在一起,合并成一个压缩文件copy到一个公共服务器中,并删除多个服务器中已经提取数据2.将压缩文件中每一个应用的详细数据放入数据库3.进行数据解析生成报表)将接收到的智能终端发送的多个数据文件进行合并,并增量备份到公共数据统计服务器。
[0089]步骤S207,按照设定时间周期删除接收到的数据文件,清理磁盘空间。
[0090]需要说明的是,本实施例中,服务器还可指定并下发数据采集策略,宏观调控智能终端的APP的数据采集。
[0091]通过上述第二实施例,服务器对接收到的数据文件进行验证,保证数据的高准确性;通过对多个数据文件压缩合并,增量备份同步到数据统计服务器,保证数据的安全。
[0092]第三实施例:
[0093]第三实施例为本发明实施例提供的APP采集数据的收集终端的实施例。所述终端的实施例与上述的方法实施例属于同一构思,终端的实施例中未详尽描述的细节内容,可以参考上述方法实施例。
[0094]图3示出了本发明第三实施例的APP采集数据的收集终端的结构示意图,所述APP采集数据的收集终端包括:数据收集模块310、文件生成模块320和数据上传模块330,下面对各模块进行具体说明。
[0095]所述数据收集模块310,用于控制智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件。
[0096]本实施例中所述数据采集公共组件为基于智能终端操作系统开发的SDK,用于接收不同APP的采集数据并统一发送给服务器;所述采集数据包括:装机量、用户支付情况、使用时长、各模块点击量、每月/日/周的活跃用户量中一种或多种。
[0097]所述文件生成模块320,用于通过所述数据采集公共组件将所述采集数据转换为对应的数据文件。
[0098]所述数据上传模块330,用于通过所述数据采集公共组件将所述数据文件上传到服务器。
[0099]进一步的,还包括收发模块,用于通过异步方式获取服务器的配置信息,这里的配置信息包括:上传时间段、上传频率、开关、联网类型中一种或多种。所述数据上传模块330,还用于控制所述数据采集公共组件按照与所述配置信息对应的方式将所述数据文件上传到服务器。
[0100]通过上述第三实施例的终端,多个APP无需单独将各自的采集数据上传给服务器,因此可有效解决终端频繁访问服务器,对服务器资源造成了不必要的浪费的问题;通过在智能终端开发一套公共的数据采集组件,统一上传智能终端不同APP的采集数据,有利于减小APP产品的开发周期和成本,节约服务器资源,提高数据统计效率。
[0101]第四实施例:
[0102]第四实施例为本发明实施例提供的APP采集数据的收集服务器的实施例。所述服务器的实施例与上述的方法实施例属于同一构思,服务器的 实施例中未详尽描述的细节内容,可以参考上述方法实施例。
[0103]图4示出了本发明第四实施例的APP采集数据的收集服务器的结构示意图,所述服务器包括:数据接收模块410和数据分析模块420,下面对各模块进行具体说明。
[0104]所述数据接收模块410,用于通过预设的数据统计公共组件接收智能终端上传的数据文件;本实施例中的数据文件为:由智能终端预设的数据采集公共组件上传的、将不同APP的采集数据转换得到的文件。
[0105]优选的,所述数据接收模块410,具体用于通过所述数据文件的MD5信息验证所述数据文件是否存在重传,若不存在,通过所述数据统计公共组件接收智能终端上传的数据文件。其中,所述数据文件的文件名格式为:UUID+BUSSINESS CODE+年月日时分秒;所述MD5信息为所述数据文件的文件名。
[0106]所述数据分析模块420,用于分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。
[0107]优选的,所述数据分析模块420,具体用于分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。
[0108]进一步的,还可包括备份模块和清理模块,所述备份模块用于按照预设的策略对接收到的多个数据文件进行压缩合并,并将压缩合并得到的文件备份到公共服务器;所述清理模块,用于按照设定时间周期删除接收到的数据文件,清理磁盘空间。
[0109]以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利要求范围,因此,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,仍属本发明所涵盖的范围。
【主权项】
1.一种APP采集数据的收集方法,其特征在于,包括, 智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件; 所述数据采集公共组件将所述采集数据转换为对应的数据文件; 所述数据采集公共组件将所述数据文件上传到服务器。2.如权利要求1所述APP采集数据的收集方法,其特征在于,所述数据采集公共组件将所述数据文件上传到服务器,包括, 所述数据采集公共组件通过异步方式获取服务器的配置信息,按照与所述配置信息对应的方式将所述数据文件上传到服务器。3.如权利要求2所述APP采集数据的收集方法,其特征在于,所述配置信息包括:上传时间段、上传频率、开关、联网类型中一种或多种; 所述采集数据包括:装机量、用户支付情况、使用时长、各模块点击量、每月/日/周的活跃用户量中一种或多种; 所述数据采集公共组件为基于智能终端操作系统开发的SDK,用于接收不同APP的采集数据并统一发送给服务器。4.一种APP采集数据的收集方法,其特征在于,包括, 通过预设的数据统计公共组件接收智能终端上传的数据文件;所述数据文件为,由智能终端将不同APP的采集数据转换得到的文件; 分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。5.如权利要求4所述APP采集数据的收集方法,其特征在于,所述通过预设的数据统计公共组件接收智能终端上传的数据文件之后,还包括, 按照预设的策略对接收到的多个数据文件进行压缩合并,并将压缩合并得到的文件备份到公共服务器; 以及, 按照设定时间周期删除接收到的数据文件,清理磁盘空间。6.如权利要求4所述APP采集数据的收集方法,其特征在于,所述通过预设的数据统计公共组件接收智能终端上传的数据文件;分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录,包括, 通过所述数据文件的MD5信息验证所述数据文件是否存在重传,若不存在,通过所述数据统计公共组件接收智能终端上传的数据文件; 识别所述数据文件中包含的业务码,所述业务码用作APP采集数据的唯一标识;根据所述业务码确定所述数据文件中包含的APP采集数据; 根据所述业务码将各APP采集数据分别存储到对应的存储目录。7.如权利要求6所述APP采集数据的收集方法,其特征在于,所述数据文件的文件名格式为:UUID+BUSSINESS CODE+年月日时分秒; 所述MD5信息为所述数据文件的文件名。8.—种APP采集数据的收集方法,其特征在于,包括, 智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件; 所述数据采集公共组件将所述采集数据转换为对应的数据文件; 所述数据采集公共组件将所述数据文件上传到服务器; 服务器通过预设的数据统计公共组件接收所述数据文件; 分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。9.一种APP采集数据的收集终端,其特征在于,包括, 数据收集模块,用于控制智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件; 文件生成模块,用于通过所述数据采集公共组件将所述采集数据转换为对应的数据文件; 数据上传模块,用于通过所述数据采集公共组件将所述数据文件上传到服务器。10.如权利要求9所述APP采集数据的收集终端,其特征在于,还包括,收发模块,用于通过异步方式获取服务器的配置信息; 所述数据上传模块,还用于控制所述数据采集公共组件按照与所述配置信息对应的方式将所述数据文件上传到服务器。11.如权利要求9所述APP采集数据的收集终端,其特征在于,所述配置信息包括:上传时间段、上传频率、开关、联网类型中一种或多种; 所述采集数据包括:装机量、用户支付情况、使用时长、各模块点击量、每月/日/周的活跃用户量中一种或多种; 所述数据采集公共组件为基于智能终端操作系统开发的SDK,用于接收不同APP的采集数据并统一发送给服务器。12.一种服务器,其特征在于,包括, 数据接收模块,用于通过预设的数据统计公共组件接收智能终端上传的数据文件;所述数据文件为,由智能终端将不同APP的采集数据转换得到的文件; 数据分析模块,用于分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。13.如权利要求12所述服务器,其特征在于,还包括,备份模块,用于按照预设的策略对接收到的多个数据文件进行压缩合并,并将压缩合并得到的文件备份到公共服务器; 以及, 清理模块,用于按照设定时间周期删除接收到的数据文件,清理磁盘空间。14.如权利要求12所述服务器,其特征在于,所述数据接收模块,具体用于通过所述数据文件的MD5信息验证所述数据文件是否存在重传,若不存在,通过所述数据统计公共组件接收智能终端上传的数据文件; 所述数据分析模块,具体用于识别所述数据文件中包含的业务码,所述业务码用作APP采集数据的唯一标识,根据所述业务码确定所述数据文件中包含的APP采集数据,根据所述业务码将各APP采集数据分别存储到对应的存储目录。15.如权利要求14所述服务器,其特征在于,所述数据文件的文件名格式为:UUID+BUSSINESS CODE+ 年月日时分秒; 所述MD5信息为所述数据文件的文件名。16.一种APP采集数据的收集系统,包括终端和服务器,其特征在于,所述终端包括,数据收集模块,用于控制智能终端的不同APP将各自的采集数据发送给预设的数据采 集公共组件;文件生成模块,用于通过所述数据采集公共组件将所述采集数据转换为对应的数据文件; 数据上传模块,用于通过所述数据采集公共组件将所述数据文件上传到服务器; 所述服务器包括,数据接收模块,用于通过预设的数据统计公共组件接收智能终端上传的数据文件; 数据分析模块,用于分析所述数据文件,得到所述不同APP的采集数据,将各APP的采集数据分别存储到对应目录。
【专利摘要】本发明公开的一种APP采集数据的收集方法、终端、服务器及系统,所述方法包括:智能终端的不同APP将各自的采集数据发送给预设的数据采集公共组件;所述数据采集公共组件将所述采集数据转换为对应的数据文件;所述数据采集公共组件将所述数据文件上传到服务器。通过本发明的技术方案,能够统一上传智能终端的不同APP采集的数据,有利于减小APP产品的开发周期和成本,节约服务器资源,提高数据统计效率。
【IPC分类】G06F17/30, H04L29/08
【公开号】CN104899325
【申请号】CN201510345163
【发明人】苗文志, 王靖
【申请人】上海卓悠网络科技有限公司
【公开日】2015年9月9日
【申请日】2015年6月19日

最新回复(0)