基于信息论学习的删失数据参数自适应估计方法
基于信息论学习的删失数据参数自适应估计方法
【技术领域】
[0001] 本发明属于统计信号处理技术领域，特别是设及一种基于信息论学习的删失数 据参数自适应估计方法。
【背景技术】
[0002] 传感器网络是由大量传感器节点构成的分布式网络系统，它能够协同地实时监 巧。、感知和采集网络覆盖区域中各种环境或监测对象的物理信息，并对其进行处理和传输。 信号参数估计是传感器网络的一个重要应用，它通过各种算法从被噪声污染的多个传感器 对未知物理量（如温度、目标方位、运动速度等）的测量值中获得对该物理量的估计。分布 式估计方法无需中央处理单元，有着高的可靠性和鲁椿性；它通过各节点的信息处理与融 合，减小网络的数据传输和处理，并有效地节省了带宽和资源，在工程领域具有重要的应用 价值。
[0003] 然而，在某些情况下，传感器节点的测量信号出现缺失，或为了降低信号处理、 传输、存储量等，放弃部分测量数据，我们称该种信号为删失信号（或数据）。例如由K个节 点构成的传感器网络，每个节点在i时刻对应信号的原始模型为
[0004]
(1)
[0005] 但每个节点只能获得如下的删失信号：
[0006]
(2)
[0007] 其中W。是需要估计的参数矢量，而为测量噪声。
[000引现有大多数参数估计方法一般通过均方误差（meansquareerror,MS巧的最小化 来实现参数估计的，但该方法只有在高斯噪声环境下，估计结果才是最优的，该种情况等价 要求测量信号yiu的概率密度是高斯型的。然而，在许多情况下，测量噪声不一定满足 高斯分布。另外，针对（2)的删失信号yk,i，即便噪声满足高斯分布，删失信号Ykii的概 率密度f(yiu)也不是高斯型的，它具有如下表达式
[0009] f(y) = (q(y))d(Pr(y<0))i-d (3)
[0010] 其中q(y)是原始信号八t,.概率密度，Pf(y< 0)表示y< 0的概率，且
[0011]
(4)〇
【发明内容】
[0012] 本发明的目的是针对现有技术的步骤，提供一种基于信息论学习的删失数据参数 自适应估计方法。
[0013] 本发明解决其技术问题所采用的技术方案具体包括如下步骤：
[0014] 步骤1、设计删失信号的估计误差函数；
[0015] 步骤2、计算估计误差的二次Ren^滴；
[0016] 步骤3、采用梯度下降的方法获得各节点参数的局部估计；
[0017] 步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数；
[0018] 步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数， 计算该节点和其邻居节点加权估计。
[0019] 步骤1所述的删失信号的估计误差函数定义如下：
[0020] 传感器网络包含K个节点，每个节点能够采集到的信号为（ykj，Ukj)，且满足
[0021] 扔-,=max{0, + 77。}，k二 \, 2,...,K公式i
[0022] 其中w。是需要估计的参数矢量，而为测量噪声。定义在i时刻的估计误差为
[0026] 步骤2所述的误差的二次Ren^滴估值片计如下：
[0027]
[00測其中ek，i= [6川，6川…K，ek，i]，而F(6。）是二次信息势户佑，定义为；
[0029]
[0030] 且为高斯核函数，N为采样时间窗的长度。
[0031] 步骤3所述的采用梯度下降的方法获得各节点参数的局部估计具体如下：
[00对根据i时刻的二次信息势FO。)和估计Wk，满得i+1时刻节点k的局部估计矢量 於,,.+1如下：
[0033]
[0034] 其中y为步长，Wk，i为第k个节点在第i时刻W。的估计值；
[0035] 步骤4所述的根据每个节点及其邻居节点的局部估计，节点k的加权系数ak,w设 计如下：
[0036]
[0037] 其中Nk是一个集合，包含节点kW及其所有的邻居节点，且 [00%]
[0039] 病,W表示第1个节点第i+1时刻的中间估计值；1 = 1，2, . . .，K。
[0040] 步骤5所述的该节点和其邻居节点加权估计计算如下：
[0041] 节点k的加权估计为；
[0042]
[00创本发明有益效果；
[0044] 1)实现缺失信号所包含参数的自适应估计；2)实现传感器网络各个节点的协同 估计；3)能够有效降低网络节点受到攻击而出现信号异常值对估计性能影响；4)在高斯或 非高斯噪声环境下都具有较好的估计精度。
【附图说明】
[0045] 图1是本发明传感器网络模型图；
[0046] 图2是本发明的实现流程图；
[0047] 图3是实验1对应的本方法与基于MSE的自适应方法进行比较；
[0048] 图4是实验2对应的本方法与基于MSE的自适应方法进行比较。
【具体实施方式】
[0049] 为了使本发明的目的和优点更加清楚，下面进一步阐述本发明提出的方法的具体 实施方式及步骤。
[0化0] 如图1和2所示，一种传感器网络删失信号参数的信息论学习方法包括W下几个 步骤：
[0化1] 步骤1、设计删失信号的估计误差函数；
[0化2] 步骤2、计算估计误差的二次Ren^滴；
[0化3] 步骤3、采用梯度下降的方法获得各节点参数的局部估计；
[0054] 步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数；
[0化5]步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数， 计算该节点和其邻居节点加权估计。
[0056] 步骤1所述的删失信号的估计误差函数定义如下；
[0057] 传感器网络包含K个节点，每个节点能够采集到的信号为（ykj，Ukj)，且满足 [005引
[0059] 其中W。是需要估计的参数矢量，而为测量噪声。定义在i时刻的估计误差为
[0063] 步骤2所述的误差的二次Ren^滴估值片(￡,; ,)计如下：
[0064]
[00化]其中 ￡k，i= [61^-1^，61^-1"，氏6,，1]，而^(6。）是二次信息势户(64-,.)，定义为；[0066]
[0067] 且G、/扣(?）为高斯核函数，N为采样时间窗的长度。
[0068] 步骤3所述的采用梯度下降的方法获得各节点参数的局部估计具体如下：
[0069] 根据i时刻的二次信息势和估计Wk,满得i+1时刻节点k的局部估计矢量 故，,+1如下：
[0070]
[0071] 其中y为步长，Wk，为第k个节点在第i时刻W。的估计值；
[0072] 步骤4所述的根据每个节点及其邻居节点的局部估计，节点k的加权系数ak,w设 计如下：
[0073]
[0074] 其中Nk是一个集合，包含节点kW及其所有的邻居节点，且
[0075]
[0076] 病,,+1表示第1个节点第i+1时刻的中间估计值；1 = 1，2,. . .，K。
[0077] 步骤5所述的该节点和其邻居节点加权估计计算如下：
[007引节点k的加权估计为
[0079] 显然，在上面的实施步骤中，不要求知道噪声的具体类型；另外，由于高斯核函数 气佑把-,，.-、/)能够抑制误差6kj的扰动，因此能够减小网络节点受到攻击而出现信号异 常值对估计性能的影响。为了验证本方法的性能，我们提供相应的仿真实验。
[0080] 实施例1
[0081] 假设一个传感器网络包含K= 20个节点，且待估计的矢量W。是一个归一 化5X1的矢量（即Ik||2= 1)。噪声niu为广义高斯噪声，即噪声的概率密度满足 f(n) exp(-|v|P)，其中P是形状参数，当0 <P< 2时，叫，巧超高斯噪声（特别地，P= 1，rik，i为超拉普拉斯噪声），当P= 2时，nk，i为高斯噪声，当P> 2时，nk，i为次高斯噪声。 定义信噪比为
；另外，本方法中的高斯核函数采用的宽度参数为0 = 2。在下列实验中，本方法与基于MSE的自适应方法进行比较：
[008引实验1 ;在SNR= 5地的情况下，计算均方估计误差与迭代循环i的关系，结果如 附图3所示，并显示；无论在超高斯、高斯、还是次高斯噪声环境，本发明的方法比基于MSE 的自适应方法具有更低的估计误差。
[008引实验2 ;在SNR= 5地的情况下，并假设在i= 600时刻网络中的某个节点受到攻 击，从而出现异常值。在该种情况下，计算均方估计误差与迭代循环i的关系。结果如附图 4所示，并显示；无论在超高斯、高斯、还是次高斯噪声环境，本发明的方法除了具有更低的 估计误差外，能够有效抑制异常值对估计性能的影响，相比之下，基于MSE的自适应方法有 更大的估计误差，同时对异常值较为敏感。
【主权项】
1. 基于信息论学习的删失数据参数自适应估计方法，其特征在于包括以下几个步骤： 步骤1、设计删失信号的估计误差函数； 步骤2、计算估计误差的二次Renyi j：商； 步骤3、采用梯度下降的方法获得各节点参数的局部估计； 步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数； 步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数计算该 节点和其邻居节点加权估计。2. 根据权利要求1所述的基于信息论学习的删失数据参数自适应估计方法，其特征在 于，步骤1所述的删失信号的估计误差函数定义如下： 传感器网络包含K个节点，每个节点能够采集到的信号为（yti，Ulu)，且满足其中％是需要估计的参数矢量，而n u为测量噪声；定义在i时刻的估计误差为：3. 根据权利要求1所述的基于信息论学习的删失数据参数自适应估计方法，其特征还 在于步骤2所述的误差的二次Renyi j：商估值计如下：且^^〇为高斯核函数，N为采样时间窗的长度。4. 根据权利要求1所述的基于信息论学习的删失数据参数自适应估计方法，其特征还 在于步骤3所述的采用梯度下降的方法获得各节点参数的局部估计具体如下： 根据i时刻的二次信息势)和估计Wlu获得i+Ι时刻节点k的局部估计矢量也，?+1 如下：其中μ为步长，Wti为第k个节点在第i时刻Wci的估计值。5. 根据权利要求1所述的一种传感器网络删失信号参数的信息论学习方法，其特征还 在于步骤4所述的根据每个节点及其邻居节点的局部估计，节点k的加权系数ati+1设计如 下：公式7 其中Nk是一个集合，包含节点k以及其所有邻居节点，且公式8 步ι，,·+ι表示第1个节点第i+Ι时刻的中间估计值；1 = 1，2,. . .，K。6. 根据权利要求1所述的一种传感器网络删失信号参数的信息论学习方法，其特征还 在于步骤5所述的该节点和其邻居节点加权估计计算如下： 节点k的加权估计关公式9。
【专利摘要】本发明公开了一种基于信息论学习的删失数据参数自适应估计方法。本发明包括以下几个步骤：步骤1、设计删失信号的估计误差函数；步骤2、计算估计误差的二次Renyi熵；步骤3、采用梯度下降的方法获得各节点参数的局部估计；步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数；步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数，计算该节点和其邻居节点加权估计。本发明1)实现缺失信号所包含参数的自适应估计;2)实现传感器网络各个节点的协同估计；3）能够有效降低网络节点受到攻击而出现信号异常值对估计性能影响;4)在高斯或非高斯噪声环境下都具有较好的估计精度。
【IPC分类】H04L25/02
【公开号】CN104901908
【申请号】CN201510254800
【发明人】刘兆霆, 余旺科
【申请人】杭州电子科技大学
【公开日】2015年9月9日
【申请日】2015年5月18日
【技术领域】
[0001] 本发明属于统计信号处理技术领域，特别是设及一种基于信息论学习的删失数 据参数自适应估计方法。
【背景技术】
[0002] 传感器网络是由大量传感器节点构成的分布式网络系统，它能够协同地实时监 巧。、感知和采集网络覆盖区域中各种环境或监测对象的物理信息，并对其进行处理和传输。 信号参数估计是传感器网络的一个重要应用，它通过各种算法从被噪声污染的多个传感器 对未知物理量（如温度、目标方位、运动速度等）的测量值中获得对该物理量的估计。分布 式估计方法无需中央处理单元，有着高的可靠性和鲁椿性；它通过各节点的信息处理与融 合，减小网络的数据传输和处理，并有效地节省了带宽和资源，在工程领域具有重要的应用 价值。
[0003] 然而，在某些情况下，传感器节点的测量信号出现缺失，或为了降低信号处理、 传输、存储量等，放弃部分测量数据，我们称该种信号为删失信号（或数据）。例如由K个节 点构成的传感器网络，每个节点在i时刻对应信号的原始模型为
[0004]
(1)
[0005] 但每个节点只能获得如下的删失信号：
[0006]
(2)
[0007] 其中W。是需要估计的参数矢量，而为测量噪声。
[000引现有大多数参数估计方法一般通过均方误差（meansquareerror,MS巧的最小化 来实现参数估计的，但该方法只有在高斯噪声环境下，估计结果才是最优的，该种情况等价 要求测量信号yiu的概率密度是高斯型的。然而，在许多情况下，测量噪声不一定满足 高斯分布。另外，针对（2)的删失信号yk,i，即便噪声满足高斯分布，删失信号Ykii的概 率密度f(yiu)也不是高斯型的，它具有如下表达式
[0009] f(y) = (q(y))d(Pr(y<0))i-d (3)
[0010] 其中q(y)是原始信号八t,.概率密度，Pf(y< 0)表示y< 0的概率，且
[0011]
(4)〇
【发明内容】
[0012] 本发明的目的是针对现有技术的步骤，提供一种基于信息论学习的删失数据参数 自适应估计方法。
[0013] 本发明解决其技术问题所采用的技术方案具体包括如下步骤：
[0014] 步骤1、设计删失信号的估计误差函数；
[0015] 步骤2、计算估计误差的二次Ren^滴；
[0016] 步骤3、采用梯度下降的方法获得各节点参数的局部估计；
[0017] 步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数；
[0018] 步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数， 计算该节点和其邻居节点加权估计。
[0019] 步骤1所述的删失信号的估计误差函数定义如下：
[0020] 传感器网络包含K个节点，每个节点能够采集到的信号为（ykj，Ukj)，且满足
[0021] 扔-,=max{0, + 77。}，k二 \, 2,...,K公式i
[0022] 其中w。是需要估计的参数矢量，而为测量噪声。定义在i时刻的估计误差为
[0026] 步骤2所述的误差的二次Ren^滴估值片计如下：
[0027]
[00測其中ek，i= [6川，6川…K，ek，i]，而F(6。）是二次信息势户佑，定义为；
[0029]
[0030] 且为高斯核函数，N为采样时间窗的长度。
[0031] 步骤3所述的采用梯度下降的方法获得各节点参数的局部估计具体如下：
[00对根据i时刻的二次信息势FO。)和估计Wk，满得i+1时刻节点k的局部估计矢量 於,,.+1如下：
[0033]
[0034] 其中y为步长，Wk，i为第k个节点在第i时刻W。的估计值；
[0035] 步骤4所述的根据每个节点及其邻居节点的局部估计，节点k的加权系数ak,w设 计如下：
[0036]
[0037] 其中Nk是一个集合，包含节点kW及其所有的邻居节点，且 [00%]
[0039] 病,W表示第1个节点第i+1时刻的中间估计值；1 = 1，2, . . .，K。
[0040] 步骤5所述的该节点和其邻居节点加权估计计算如下：
[0041] 节点k的加权估计为；
[0042]
[00创本发明有益效果；
[0044] 1)实现缺失信号所包含参数的自适应估计；2)实现传感器网络各个节点的协同 估计；3)能够有效降低网络节点受到攻击而出现信号异常值对估计性能影响；4)在高斯或 非高斯噪声环境下都具有较好的估计精度。
【附图说明】
[0045] 图1是本发明传感器网络模型图；
[0046] 图2是本发明的实现流程图；
[0047] 图3是实验1对应的本方法与基于MSE的自适应方法进行比较；
[0048] 图4是实验2对应的本方法与基于MSE的自适应方法进行比较。
【具体实施方式】
[0049] 为了使本发明的目的和优点更加清楚，下面进一步阐述本发明提出的方法的具体 实施方式及步骤。
[0化0] 如图1和2所示，一种传感器网络删失信号参数的信息论学习方法包括W下几个 步骤：
[0化1] 步骤1、设计删失信号的估计误差函数；
[0化2] 步骤2、计算估计误差的二次Ren^滴；
[0化3] 步骤3、采用梯度下降的方法获得各节点参数的局部估计；
[0054] 步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数；
[0化5]步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数， 计算该节点和其邻居节点加权估计。
[0056] 步骤1所述的删失信号的估计误差函数定义如下；
[0057] 传感器网络包含K个节点，每个节点能够采集到的信号为（ykj，Ukj)，且满足 [005引
[0059] 其中W。是需要估计的参数矢量，而为测量噪声。定义在i时刻的估计误差为
[0063] 步骤2所述的误差的二次Ren^滴估值片(￡,; ,)计如下：
[0064]
[00化]其中 ￡k，i= [61^-1^，61^-1"，氏6,，1]，而^(6。）是二次信息势户(64-,.)，定义为；[0066]
[0067] 且G、/扣(?）为高斯核函数，N为采样时间窗的长度。
[0068] 步骤3所述的采用梯度下降的方法获得各节点参数的局部估计具体如下：
[0069] 根据i时刻的二次信息势和估计Wk,满得i+1时刻节点k的局部估计矢量 故，,+1如下：
[0070]
[0071] 其中y为步长，Wk，为第k个节点在第i时刻W。的估计值；
[0072] 步骤4所述的根据每个节点及其邻居节点的局部估计，节点k的加权系数ak,w设 计如下：
[0073]
[0074] 其中Nk是一个集合，包含节点kW及其所有的邻居节点，且
[0075]
[0076] 病,,+1表示第1个节点第i+1时刻的中间估计值；1 = 1，2,. . .，K。
[0077] 步骤5所述的该节点和其邻居节点加权估计计算如下：
[007引节点k的加权估计为
[0079] 显然，在上面的实施步骤中，不要求知道噪声的具体类型；另外，由于高斯核函数 气佑把-,，.-、/)能够抑制误差6kj的扰动，因此能够减小网络节点受到攻击而出现信号异 常值对估计性能的影响。为了验证本方法的性能，我们提供相应的仿真实验。
[0080] 实施例1
[0081] 假设一个传感器网络包含K= 20个节点，且待估计的矢量W。是一个归一 化5X1的矢量（即Ik||2= 1)。噪声niu为广义高斯噪声，即噪声的概率密度满足 f(n) exp(-|v|P)，其中P是形状参数，当0 <P< 2时，叫，巧超高斯噪声（特别地，P= 1，rik，i为超拉普拉斯噪声），当P= 2时，nk，i为高斯噪声，当P> 2时，nk，i为次高斯噪声。 定义信噪比为
；另外，本方法中的高斯核函数采用的宽度参数为0 = 2。在下列实验中，本方法与基于MSE的自适应方法进行比较：
[008引实验1 ;在SNR= 5地的情况下，计算均方估计误差与迭代循环i的关系，结果如 附图3所示，并显示；无论在超高斯、高斯、还是次高斯噪声环境，本发明的方法比基于MSE 的自适应方法具有更低的估计误差。
[008引实验2 ;在SNR= 5地的情况下，并假设在i= 600时刻网络中的某个节点受到攻 击，从而出现异常值。在该种情况下，计算均方估计误差与迭代循环i的关系。结果如附图 4所示，并显示；无论在超高斯、高斯、还是次高斯噪声环境，本发明的方法除了具有更低的 估计误差外，能够有效抑制异常值对估计性能的影响，相比之下，基于MSE的自适应方法有 更大的估计误差，同时对异常值较为敏感。
【主权项】
1. 基于信息论学习的删失数据参数自适应估计方法，其特征在于包括以下几个步骤： 步骤1、设计删失信号的估计误差函数； 步骤2、计算估计误差的二次Renyi j：商； 步骤3、采用梯度下降的方法获得各节点参数的局部估计； 步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数； 步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数计算该 节点和其邻居节点加权估计。2. 根据权利要求1所述的基于信息论学习的删失数据参数自适应估计方法，其特征在 于，步骤1所述的删失信号的估计误差函数定义如下： 传感器网络包含K个节点，每个节点能够采集到的信号为（yti，Ulu)，且满足其中％是需要估计的参数矢量，而n u为测量噪声；定义在i时刻的估计误差为：3. 根据权利要求1所述的基于信息论学习的删失数据参数自适应估计方法，其特征还 在于步骤2所述的误差的二次Renyi j：商估值计如下：且^^〇为高斯核函数，N为采样时间窗的长度。4. 根据权利要求1所述的基于信息论学习的删失数据参数自适应估计方法，其特征还 在于步骤3所述的采用梯度下降的方法获得各节点参数的局部估计具体如下： 根据i时刻的二次信息势)和估计Wlu获得i+Ι时刻节点k的局部估计矢量也，?+1 如下：其中μ为步长，Wti为第k个节点在第i时刻Wci的估计值。5. 根据权利要求1所述的一种传感器网络删失信号参数的信息论学习方法，其特征还 在于步骤4所述的根据每个节点及其邻居节点的局部估计，节点k的加权系数ati+1设计如 下：公式7 其中Nk是一个集合，包含节点k以及其所有邻居节点，且公式8 步ι，,·+ι表示第1个节点第i+Ι时刻的中间估计值；1 = 1，2,. . .，K。6. 根据权利要求1所述的一种传感器网络删失信号参数的信息论学习方法，其特征还 在于步骤5所述的该节点和其邻居节点加权估计计算如下： 节点k的加权估计关公式9。
【专利摘要】本发明公开了一种基于信息论学习的删失数据参数自适应估计方法。本发明包括以下几个步骤：步骤1、设计删失信号的估计误差函数；步骤2、计算估计误差的二次Renyi熵；步骤3、采用梯度下降的方法获得各节点参数的局部估计；步骤4、根据每个节点及其邻居节点的局部估计，设计加权系数；步骤5、节点与其邻居节点交换各自的局部估计，并利用步骤4得到的加权系数，计算该节点和其邻居节点加权估计。本发明1)实现缺失信号所包含参数的自适应估计;2)实现传感器网络各个节点的协同估计；3）能够有效降低网络节点受到攻击而出现信号异常值对估计性能影响;4)在高斯或非高斯噪声环境下都具有较好的估计精度。
【IPC分类】H04L25/02
【公开号】CN104901908
【申请号】CN201510254800
【发明人】刘兆霆, 余旺科
【申请人】杭州电子科技大学
【公开日】2015年9月9日
【申请日】2015年5月18日
最新回复(0)