一种神经网络知识表示方法

xiaoxiao2021-2-25  237

一种神经网络知识表示方法
【技术领域】
[0001] 本发明涉及数字化技术领域,具体地说,涉及一种神经网络知识表示方法。
【背景技术】
[0002] 数字化技术对导弹研制的推动作用主要体现在数字化设计技术、数字化验证技术 和数字化制造技术方面,其中,数字化设计技术又包括三维建模技术、多学科设计优化技 术、基于仿真的设计技术、数字样机技术和知识工程等。国内在导弹的数字化设计平台的研 究方面取得了一定的进展。
[0003] 美国标准和技术自然研究所关于产品设计的主要研究方向就是基于知识的产品 数字化设计。2001年NASA的哥达德航天飞行中心建立了卫星快速开发部(Rap id Spacecraft Development Off ice,RSD0)其方法是联合NASA以外,包括欧洲的各大航天公 司,建立型号型谱,到2008年完成三期平台建立,通过这些公用平台,RSD0可以根据用户需 求在哥达德航天飞行中心的集成设计中心快速完成适应性修改。
[0004] 为推行航空航天器的快速研制,欧洲航天局(ESA)从2004年开始着手建设设计资 源中心(Design Resource Center,DRC),分成系统级、分系统级和设备级三个层次,建立产 品型谱库。
[0005] 在防空导弹的设计过程中,特别是结构部件设计过程中,有很多类型的知识,包括 一些设计计算过程,专家的经验,设计规范等,这些都是关于导弹设计的知识,其对导弹的 设计有着重要的影响。如何利用知识工程原理,将产品研发中长期积累的知识、专家经验、 规则、规范要求和设计规律等提炼出来构成知识库,并通过对知识库中知识的运用支持产 品的方案设计,以增强企业的研发能力,已经成了制约我国导弹产品设计全过程数字化的 瓶颈问题。

【发明内容】

[0006] 为了克服现有技术中存在的缺陷,本发明提出了一种神经网络知识表示方法,神 经网络知识的表达,需要能够描述神经网络的结构和参数,即根据所表达的知识,不仅可以 构建神经网络的结构,还可以确定神经网络的参数值,如每个神经元的激活函数,不同神经 元之间的连接权重,每个神经元的阈值等。由于不同的神经网络具有不同的结构形式,因 此,需要针对不同的神经网络,研究并设计相应的知识表达方法。
[0007] 其技术方案如下:
[0008] -种神经网络知识表示方法,包括以下步骤:
[0009] 步骤一:定义当前表示方法对应的神经网络类型。在本说明书中,仅包含BP神经网 络模型和模糊神经网络模型。后续步骤拟统称特定神经网络模型。
[0010] 步骤二:分解特定神经网络模型结构,并通过可扩展标记语言XML标签的方式加以 表达。其中的标签包括用于描述网络内部结构的结构标签,以及用来表示网络各节点值信 息的信息标签。
[0011] 步骤三:分离特定神经网络模型的结构标签,标签格式分为起始标签〈标签〉和结 束标签〈U示签〉表示,标签对中可包含其他标签。
[0012] 步骤四:分离特定神经网络模型的信息标签,标签格式分为起始标签〈标签〉和结 束标签〈U示签〉表示,标签对中不可包含其他标签,但一定包含该标签所关联的信息值,表 示方法如〈标签〉信息值〈\标签〉。
[0013] 步骤五:基于可扩展标记语言XML规则将所有标签关联起来。关联后的根节点用来 表示特定神经网络模型对应的一个完整知识。
[0014] 本发明的有益效果为:对特定神经网络模型加以分析,通过特定的知识表达方将 模型中的知识分解并组织起来,为知识重用和进一步表达提供基础。
[0015]如前文所示,本发明针对不同神经网络的特点,提出了神经网络知识表达方法,实 现了神经网络知识的表达与存储,能够有效支持复杂装备的设计过程。
【附图说明】
[0016]图1为神经网络知识表示方法的流程图:
[0017]图2为BP神经网络的结构形式;
[0018] 图3为BP算法的流程图;
[0019] 图4为BP神经网络知识表达方法;
[0020] 图5为BP神经网络知识表达方法结构图;
[0021 ]图6为模糊神经网络结构图;
[0022]图7为过程神经网络算法流程图;
[0023]图8为模糊神经网络知识描述;
[0024] 图9为模糊神经网络知识表达结构图。
【具体实施方式】
[0025] 下面结合附图和【具体实施方式】对本发明的技术方案作进一步详细地说明。
[0026] 参照图1,一种神经网络知识表示方法,包括以下步骤:
[0027] 步骤一:定义当前表示方法对应的神经网络类型。在本说明书中,仅包含BP神经网 络模型和模糊神经网络模型。后续步骤拟统称特定神经网络模型。
[0028] 步骤二:分解特定神经网络模型结构,并通过可扩展标记语言XML标签的方式加以 表达。其中的标签包括用于描述网络内部结构的结构标签,以及用来表示网络各节点值信 息的信息标签。
[0029] 步骤三:分离特定神经网络模型的结构标签,标签格式分为起始标签〈标签〉和结 束标签〈U示签〉表示,标签对中可包含其他标签。
[0030] 步骤四:分离特定神经网络模型的信息标签,标签格式分为起始标签〈标签〉和结 束标签〈U示签〉表示,标签对中不可包含其他标签,但一定包含该标签所关联的信息值,表 示方法如〈标签〉信息值〈\标签〉。
[0031] 步骤五:基于可扩展标记语言XML规则将所有标签关联起来。关联后的根节点用来 表示特定神经网络模型对应的一个完整知识。
[0032] 神经网络知识的表达,需要能够描述神经网络的结构和参数,即根据所表达的知 识,不仅可以构建神经网络的结构,还可以确定神经网络的参数值,如每个神经元的激活函 数,不同神经元之间的连接权重,每个神经元的阈值等。由于不同的神经网络具有不同的结 构形式,因此,需要针对不同的神经网络,研究并设计相应的知识表达方法。下面针对两种 不同的神经网络,对其知识表达方法进行描述。
[0033] (一)BP神经网络知识
[0034] BP(Back Propagation)网络是一种按误差逆向传播算法训练的多层前馈网络,是 目前应用最广泛的神经网络模型之一。BP网络能学习和存储大量的输入-输出模式映射关 系,而且不需要事前揭示描述这种映射关系的数学方程。BP算法的学习规则是最速下降法, 然后通过反向传播来不断的调整网络的权值和阈值,最终使网络的误差平方和最小。典型 结构如图2所示。
[0035] BP神经网络的学习过程由信息的正向传播和误差的反向传播两个过程组成。输入 层接收外来的输入信息,并传递给中间层的神经元;中间层神经元接收输入层传来的信息, 经过神经元的计算,然后传给下一层;如果有多个中间层,则逐层传递,直到传递给输出层; 输出层的计算结果便是实际输出。将实际输出与标准输出进行比较,求得误差平方和,然后 利用最速下降法,根据误差来依次求输出层以及各个中间层权值和阈值的增量,从而对整 个网络的权值和阈值进行调整,这样便完成了一次学习过程。如此不断往复,最终达到一定 训练次数或误差小到容许的范围内便停止学习,网络训练结束。算法流程如图3所示。
[0036] BP神经网络 有着较强的功能和广泛的应用。可以用作分类、聚类以及预测等。神经 网络需要有一定数量的历史数据作为训练样本,通过利用这些样本对神经网络进行训练, 网络可以学习到数据中隐含的知识或模式。BP神经网络就是一个黑箱系统,已知输入和输 出,用BP神经网络来模拟输入和输出之间的映射关系,只不过这些输入和输出都是离散的 数字量。因此,在训练过程中,知识表示能够有效将BP神经网络结构加以表示,从而为其他 计算过程提供必要的基础。
[0037 ]针对BP神经网络的结构和算法流程的特点,BP神经网络的典型知识表达方式应该 如图4所示。
[0038] 如图4所示,BP神经网络的知识表示包括权重、阈值、训练函数三部分。权重用于存 储输入层到隐含层与隐含层到输出层的权重;阈值则是分别存储隐含层神经元与输出层神 经元的阈值;训练函数则是用于存储隐含层与输出层的训练函数。具体的标签语法及其含 义如表1所示。
[0039] 表1 BP神经网络表示标签涵义说明
[0040]
[0041] 所有标签的层次关系如图5所示。
[0042] 说明:类似的,图5中的"1: Γ表示父标签与子标签是一对一的关系,即一个父标签 下,只能有一个该子标签;图中"1 :m"表不父标签与子标签是一对多的关系,即一个父标签 下,可以有任意有限个该子标签。
[0043](二)模糊神经网络知识
[0044] 人工神经网络是属于人工智能范畴的一种计算技术,它根据人们对生物神经网络 的研究成果设计出来,具有良好的数学描述,可以方便的用计算机程序加以模拟。作为一种 具有高度非线性映射能力的计算模型,它己被广泛应用于模式识别、自动控制等诸多领域。 模糊技术以模糊逻辑为基础,能模仿人的模糊综合判断推理来处理常规方法难以解决的模 糊信息处理的难题。二者各有优点,它们的结合始于1988年,其基本的结合方式包括:以模 糊算子代替神经网络中的神经元传递函数、采用模糊参数作为神经网络的权值、采用模糊 变量作为神经网络的输入信号等。其结构如图6所示。
[0045] 整个模糊神经网络由多个BP神经网络组成。假设样本经过处理后,有η条模糊规 贝1J,那么,模糊神经网络便总共由η+1个ΒΡ神经网络组成。其中,有η个ΒΡ神经网络模拟η条模 糊规则,如图中所示的NNjljNN n,它们每一个都是普通的ΒΡ神经网络。剩下的一个ΒΡ神经网 络为隶属度网络NNmf,其作用是为每条模糊规则分配隶属度。根据各个BP神经网络的功能不 同,其输出形式也不相同。所有的神经网络的输入都是一样的,均为样本的输入形式,但是 输出不同。代表模糊规则的NNjljNN n的输出gjljgn为样本的输出形式,而隶属度网络NNm49 输出则为所有模糊规则的隶属度。即有多少条模糊规则,便有多少个输出值。图中所示,隶 属度网络NNm4^输出为m维向量,其形式为41#2,一#?]^ 1代表第1条模糊规则的隶属度。 假设某一个输入属于第s条模糊规则,贝ijNNmf网络的输出向量为[μι,…,y s-i,ys,ys+r··,ym]= [0,一,0,1,0,一,0],即第^为1,其余的均为0。得到各个神经网络的输出值后,便可以计算 整个模糊神经网络的输出值。如图所示,整个模糊神经网络的输出值为每条模糊规则的输
出乘以该条模糊规则的隶属度,然后求和即可,即 I 了进一步说明过程神经 网络的工作原理,其流程如图7所示。
[0046]模糊神经网络可用于模糊回归、模糊控制器、模糊专家系统、模糊频谱分析、模糊 矩阵方程、通用逼近器等。模糊神经网络结合了神经网络系统和模糊系统的长处,它在处理 非线性、模糊性等问题上有很大的优越性,在智能信息处理方面存在巨大的潜力。
[0047 ] 过程神经网络知识的表达方式如图8所示。
[0048]如图8所示,模糊神经网络的知识表达方法中包括两部分,分别为NNmf神经网络参 数部分和规则神经网络参数部分。如前文所述,NNmf神经网络用于给不同的规则神经网络 分配权重,规则神经网络部分包括所有的规则神经网络,每一个神经网络代表一条规则。对 于NNmf神经网络和每一个规则神经网络,都可以转换为一个BP神经网络,因此,对于每一个 神经网络的表达方式,与BP神经网络类似。模糊神经网络知识表达方法中定义的标签及其 含义,如表2所不。
[0049] 表2 BP神经网络表示标签涵义说明 [0050]
[0051]
[0052] 上面表格给出了模糊神经网络知识中所有标签的名称及含义,具体的层次关系如 图9所示。
[0053] 图9中描述了模糊神经网络知识表达的结构,由图中可以看出,模糊神经网络由一 个NNmf神经网络和任意有限多个规则神经网络共同组成,每一个都是一个BP神经网络。这 样,通过定义的标签及其结构关系,可以清晰准确的描述模糊神经网络知识。
[0054] 以上所述,仅为本发明较佳的【具体实施方式】,本发明的保护范围不限于此,任何熟 悉本技术领域的技术人员在本发明披露的技术范围内,可显而易见地得到的技术方案的简 单变化或等效替换均落入本发明的保护范围内。
【主权项】
1. 一种神经网络知识表示方法,其特征在于,包括以下步骤: 步骤一:定义当前表示方法对应的神经网络类型;在本说明书中,仅包含BP神经网络模 型和模糊神经网络模型;后续步骤拟统称特定神经网络模型; 步骤二:分解特定神经网络模型结构,并通过可扩展标记语言XML标签的方式加以表 达;其中的标签包括用于描述网络内部结构的结构标签,以及用来表示网络各节点值信息 的信息标签; 步骤三:分离特定神经网络模型的结构标签,标签格式分为起始标签〈标签〉和结束标 签〈U示签〉表示,标签对中包含其他标签; 步骤四:分离特定神经网络模型的信息标签,标签格式分为起始标签〈标签〉和结束标 签〈U示签〉表示,标签对中不能包含其他标签,但一定包含该标签所关联的信息值,表示方 法为〈标签〉信息值〈U示签〉; 步骤五:基于可扩展标记语言XML规则将所有标签关联起来;关联后的根节点用来表示 特定神经网络模型对应的一个完整知识。
【专利摘要】本发明公开了一种神经网络知识表示方法,定义当前表示方法对应的神经网络类型。仅包含BP神经网络模型和模糊神经网络模型。分解特定神经网络模型结构,并通过可扩展标记语言XML标签的方式加以表达。分离特定神经网络模型的结构标签,标签格式分为起始标签<标签>和结束标签<\标签>表示,标签对中可包含其他标签。分离特定神经网络模型的信息标签,标签格式分为起始标签<标签>和结束标签<\标签>表示,标签对中不可包含其他标签,但一定包含该标签所关联的信息值,关联后的根节点用来表示特定神经网络模型对应的一个完整知识。本发明实现了神经网络知识的表达与存储,能够有效支持复杂装备的设计过程。
【IPC分类】G06N3/04, G06F17/50
【公开号】CN105488564
【申请号】CN201510828509
【发明人】林琳, 郭丰, 钟诗胜, 王晨, 谢晓龙
【申请人】哈尔滨工业大学
【公开日】2016年4月13日
【申请日】2015年11月25日

最新回复(0)