专利名称:热点数据的网络存储和访问方法、设备及系统的制作方法
技术领域:
本发明涉及一种信息处理方法,尤其涉及一种热点数据的网络存储和访 问方法、设备及系统。
背景技术:
随着时代的发展,网络存储发展迅速,分布式储存运用广泛,网络规模
不断扩大,访问节点越来越多。对象存储融合了存储域网络(S認,Storage Area Network)的可扩展性和网络附属存储(NAS, Network Attached Storage) 的数据共享,是当今网络存储的发展方向。T10的对象存储设备(0SD, Object-Based Storage Device)协议定义了基于对象的存储设备的通讯协议。对象 (Object)是数据管理的基本单元。虽然网络存储的容量巨大,但是只有小 部分的内容被频繁访问。现有的分布式网络中这些频繁被多个客户端并发访 问的数据(热点数据)仅仅存在于特定的一个或几个OSD存储节点中,成千上 万的客户端并发访问特定几个存储节点,势必会造成网络负载不均衡,访问 时延增大和存储节点利用率低等问题。此外,在OSD存储节点中使用标识号来 标示每个对象。现有OSD协议管理对象标识号十分简单,每个OSD存储节点维 护一个最后使用标识(lastj示识),创建对象就对last—标识加一。删除某个 对象后其对象标识不再使用,多个OSD存储节点上的对象标识没有相关性,没 有充分利用标识资源
发明内容
本发明实施例的目的在于提供一种热点数据的网络存储和访问方法、设 备及系统,能够解决热点数据访问导致的网络繁忙和存储介电利用率低的问 题。
本发明实施例提供一种热点数据的网络存储方法,该方法包括在存储
节点中设置热点数据区,并;将相同的热点数据存入所述热点数据区;以及 记录文件布局信息。
本发明实施例还提供一种热点数据的访问方法,该方法包括获得文件 布局信息;以及当确定要访问的数据为热点数据时,选择空闲的存储节点访 问该热点数据。
本发明实施例还提供一种数据管理设备,该设备包括标识管理模块,
用于设定存储节点上热点数据区的对象标识号范围,和向数据分配和回收热
点数据区的对象标识号;以及文件布局信息模块,用于记录、提供和修改文 件布局信息。
本发明实施例还提供一种存储节点访问设备,该设备包括接收模块,
用于接收文件布局信息;热点确定模块,用于根据所述文件布局信息确定文 件为热点数据;以及访问模块,用于访问空闲存储节点上的热点数据。
本发明实施例还提供一种网络存储访问系统,该系统包括.,至少两个网 络存储节点设备,每个存储节点设置热点数据区,所述热点数据区中存储有 相同的热点数据;元数据服务器,用于提供文件布局信息;以及存储节点访 问设备,用于接收文件布局信息,根据所述文件布局信息确定文件为热点数 据,访问空闲存储节点上的热点数据。
本发明的实施例,在访问热点数据的时候充分利用网络资源,负载平衡, 减少网络延迟,提高系统吞吐量;统一管理热点数据区的对象标识,统一管 理分配回收对象标识,充分利用了对象标识资源。
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部 分,并不构成对本发明的限定。在附图中
图1A是本发明实施例一的存储方法流程图1B是本发明实施例一中将热点数据存入热点数据区的流程图; 图1C是本发明实施例一中热点数据转变为普通数据的处理流程图; 图2A是本发明实施例二的访问方法流程图。
图2B是本发明实施例二选择空闲存储节点访问步骤方式一的流程图。
图2C是本发明实施例二选择空闲存储节点访问步骤方式二的流程图。
图3是本发明实施例的设置网络存储节点设备对象标识号的示意图。
图4是本发明实施例三的数据管理设备结构示意图。
图5是本发明实施例四的存储节点访问设备结构示意图。
图6是本发明实施例五的网络存储系统结构示意图。
具体实施例方式
为使本发明实施例的目的、技术方案和优点更加清楚明白,下面结合实 施例和附图,对本发明实施例做进一步详细说明。在此,本发明的示意性实 施例及其说明用于解释本发明,但并不作为对本发明的限定。
实施例一
本发明实施例提供一种热点数据的网络存储方法。下面参照图1A到图1C, 详细说明该热点数据的网络存储方法,该方法由元数据处理器执行。该方法
包括
步骤S110:在存储节点中设置热点数据区,设定热点数据区的对象标识 号范围;
该步骤还可以结合在每个存储节点中设置普通数据区,即结合设定普通 数据区的对象标识(标识)号范围来实现;如图3所示,规定每个0SD存储 节点中热点数据区的对象标识号范围为[l, P],而普通数据区的对象标识号范围为[P+1, N+1],其中P为热点数据的个数,N+l为存储节点的最后一个对象标识号;
步骤S120:将热点数据存入热点数据区;
如图1B所示,在该步骤中,先创建热点数据或将数据标记为热点数据(步骤S121),然后向热点数据分配热点数据区的对象标识号(步骤S122);
步骤S130:记录文件布局信息,文件布局信息是描述文件属性的信息,
表示文件由哪些对象构成,对象标识号,对象分布在那个存储节点上;可以由对象标识号判断要访问的数据是否为热点数据;
如图1C所示,在步骤S130之后,当热点数据转变为普通数据时,可以将该数据从热点数据区删除(步骤S131),回收该热点数据的热点数据区的对象标识号(步骤132),将该数据存入普通数据区(步骤S133),向该数据分配普通数据区的对象标识号(步骤S134),以及修改文件布局信息(S135)。其中,回收热点数据的热点数据区对象标识号具体为将该对象标识号设为空置状态,当有新热点数据存入时启用空置的热点数据区对象标识号。
本实施例,通过各存储节点上都存储有相同的热点数据,充分利用网络资源,均衡网络负载,提高存储节点的利用率;此外,通过统一管理对象标识号,充分利用标识资源。
实施例二
本发明实施例提供另一种热点数据的访问方法。下面参照图2A到图2C,详细说明该热点数据的访问方法,该方法包括-
步骤S210:获得文件布局信息,文件布局信息是描述文件属性的信息,表示文件由哪些对象构成,对象标识号,对象分布在那个存储节点上;可以由对象标识号判断要访问的数据是否为热点数据;
在该步骤中,客户端请求元数据服务器打开文件,元数据服务器返回文件布局信息;
步骤S220:当确定要访问的数据为热点数据时,选择空闲的存储节点访200910006340.4
说明书第5/7页
问该热点数据。
该步骤具体有两个方式,图2B所示为方式一,包括客户端根据文件布
局确定要访问的文件为热点数据(步骤S221),访问指定的主存储节点上的热点数据(步骤S222);以及当主存储节点繁忙时,访问其他存储节点上的热点数据(歩骤S223)。评估各个存储节点的状态信息,当某存储节点的状态信息达到一定的阈值则认为该存储节点为繁忙。存储节点的状态信息包括但不限于访问每个存储节点的访问次数,请求数据流量,访问频率等。而各个存储节点的状态信息可以通过访问各节点而获得。
如2C所示为方式二,包括客户端根据文件布局确定要访问的文件为热点数据(步骤S221');获得各存储节点的空闲状态信息(步骤S222');以及确定各存储节点的空闲状态(步骤S223'),访问空闲的存储节点上的该热点数据(歩骤S224')。其中,空闲状态信息包括存储节点的网络负荷、CPU内存使用率和访问等待队列长度,当存储节点的上述空闲状态信息超过预先设定的门限值时确定该存储节点处于繁忙状态。
本实施例通过为每个客户端设置主访问存储节点或者由客户端测量存储节点的空闲状态来选择访问,能够充分利用网络资源,负载平衡,减少网络延迟,提高系统吞吐量。
实施例三
本发明实施例提供一种数据管理设备。下面参照图4,以元数据服务器400为例详细描述根据本发明的数据管理设备,该元数据服务器400包括标识管理模块301,用于设定数据节点上热点数据区的对象标识号范围,和向数据分配和回收热点数据区的对象标识号;如图3所示,规定每个OSD存储节点中热点数据区的对象标识号范围为[l, P],而普通数据区的对象标识号范围为[P+1, N+1],其中P为热点数据的个数,N+l为存储节点的最后一个对象标识号;以及
文件布局信息模块302,用于提供和改变文件布周,文件布局信息可用于确定文件是否为热点数据。文件布局信息是描述文件属性的信息,表示文件
由哪些对象构成,对象标识号,对象分布在那个存储节点上;可以由对象标识号判断要访问的数据是否为热点数据。
本实施例,可以实现提供给客户端待访问文件为热点数据的确定依据,统一管理数据节点中的对象标识号,从而提高热点数据访问的效率和充分利用标识资源。
实施例四
本实施例提供一种存储节点访问设备。下面参照图5,以客户端设备500为例详细说明根据本发明的存储节点访问设备。该客户端设备500包括
接收模块501,用于接收文件布局信息;文件布局信息是描述文件属性的信息,表示文件由哪些对象构成,对象标识号,对象分布在那个存储节点上;
热点确定模块502,用于根据所述文件布局信息确定文件为热点数据;例如可以由对象标识号判断要访问的数据是否为热点数据;以及
访问模块503,用于访问空闲存储节点上的热点数据。
此外,该设备500还可以包括主存储节点访问单元504,用于访问指定的主存储节点。当主存储节点繁忙时,访问模块503进一步访问其他存储节点上的热点数据。
此外,该设备500还可以包括节点状态接收模块505,用于接收各存储节点的空闲状态信息;以及节点状态确定模块506,用于根据各存储节点的空闲状态信息确定各存储节点的空闲状态。评估各个存储节点的状态信息,当某存储节点的状态信息达到一定的阈值就确定该存储节点为繁忙。存储节点的状态信息包括但不限于访问每个存储节点的访问次数,请求数据流量,访问频率等。而各个存储节点的状态信息可以通过访问各节点而获得。
本实施例通过为每个客户端设置主访问存储节点或者由客户端测量存储节点的空闲状态来选择访问,能够充分利用网络资源,负载平衡,减少网络延迟,提高系统吞吐量。
10实施例五
本实施例提供一种网络数据存储访问系统。下面参照图6,详细描述根据 本发明的网络数据存储访问系统,该系统包括
至少两个网络存储节点设备601,每个存储节点设置热点数据区,上述热 点数据区中存储有相同的热点数据;
元数据服务器602,用于设定上述热点数据区的对象标识号范围,向数据 分配和回收的热点数据去的对象标识号,提供和修改文件布局信息;以及 存储节点访问设备603,用于接收文件布局信息,根据所述文件布局信息
确定文件为热点数据,访问空闲存储节点上的热点数据。
存储节点访问设备603访问元数据服务器602,获取文件元数据后,再访 问存储节点601进行数据操作。
本实施例,通过各存储节点上都存储有相同的热点数据,充分利用网络 资源,均衡网络负载,提高存储节点的利用率;通过统一管理对象标识号, 充分利用标识资源;此外通过为每个客户端设置主访问存储节点或者由客户 端测量存储节点的空闲状态来选择访问,能够进一步负载平衡,充分利用网 络资源。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了 进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已, 并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任 何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
权利要求
1. 一种热点数据的网络存储方法,其特征在于,该方法包括在存储节点中设置热点数据区,并设定所述热点数据区的对象标识号范围;将热点数据存入所述热点数据区;以及记录文件布局信息。
2. 根据权利要求1所述的方法,其特征在于,将热点数据存入所述热点 数据区的步骤进一步包括-创建热点数据或将数据标记为热点数据;以及 向热点数据分配热点数据区的对象标识号。
3. 根据权利要求l所述的方法,其特征在于,在将热点数据存入所述热 点数据区的步骤之后还包括当热点数据转变为普通数据时,将该数据从热点数据区删除; 回收该热点数据的热点数据区的对象标识号;以及 修改文件布局信息。
4. 根据权利要求3所述的方法,其特征在于,还包括 在将该数据从热点数据区删除之后,将该数据存入普通数据区; 向该数据分配普通数据区的对象标识号;以及 修改文件布局信息。
5. —种热点数据的访问方法,其特征在于,该方法包括 获得文件布局;以及确定文件为热点数据时,选择空闲的存储节点访问该热点数据。
6. 根据权利要求5所述的方法,其特征在于,选择空闲的存储节点访问 热点数据的步骤进一步包括访问指定的主存储节点上的热点数据;以及当主存储节点繁忙时,访问其他存储节点上的热点数据。
7. 根据权利要求5所述的方法,其特征在于,在选择空闲的节点访问的步骤中进一步包括获得各存储节点的空闲状态信息;确定各存储节点的空闲状态;以及访问空闲的存储节点上的该热点数据。
8. 根据权利要求7所述的方法,其特征在于所述空闲状态信息包括存储节点的网络负荷或CPU内存使用率或访问等待队列长度。
9. 一种数据管理设备,其特征在于,该设备包括标识管理模块,用于设定存储节点上热点数据区的对象标识号范围,和向数据分配和回收热点数据区的对象标识号;以及文件布局信息模块,用于记录和修改文件布局。
10. —种存储节点设备,其特征在于,该设备包括 接收模块,用于接收文件布局信息;热点数据确定模块,用于根据所述文件布局信息确定数据为热点数据;以及访问模块,用于访问空闲存储节点上的热点数据。
11. 根据权利要求10所述的设备,其特征在于,该设备还包括主存储节点访问单元,用于访问指定的主存储节点。
12. 根据权利要求10所述的设备,其特征在于,该设备还包括 节点状态接收模块,用于接收各存储节点的空闲状态信息;以及节点状态确定模块,用于根据各存储节点的空闲状态信息确定各存储节 点的空闲状态。
13. —种网络存储访问系统,其特征在于,该系统包括至少两个网络存储节点设备,每个存储节点设置热点数据区,所述热点数据区中存储有相同的热点数据;元数据服务器,用于设定所述热点数据区的对象标识号范围,向数据分 配和回收的热点数据区的对象标识号,提供和修改文件布局信息;以及存储节点访问设备,用于接收文件布局信息,根据所述文件布局信息确 定文件为热点数据,访问空闲存储节点上的所述热点数据。
全文摘要
本发明提供一种热点数据的网络存储和访问方法、设备及系统,该方法包括在存储节点中设置热点数据区,并设定所述热点数据区的对象标识号范围;将热点数据存入所述热点数据区;以及记录文件布局信息。通过本发明提供的技术方案,在访问热点数据的时候充分利用网络资源,负载平衡,减少网络延迟,提高系统吞吐量;统一管理热点数据区的对象标识,统一管理分配回收对象标识,充分利用了对象标识资源。
文档编号H04L29/08GK101483668SQ200910006340
公开日2009年7月15日 申请日期2009年2月10日 优先权日2009年2月10日
发明者黄志昊 申请人:成都市华为赛门铁克科技有限公司