Journal of Qingdao University of Science and TechnologyCNatural Science Edition)
1 青岛科技大学学报(自然科学版\" 1
Vol. 38 No. 6
Dec. 2017
文章编号:1672-6987(2017)06-0001-13# !OI: 10.16351%.1672-6987.2017.06.001
信号建模($):多频信号模型的递阶迭代参数估计
丁锋% &
徐玲刘喜梅%
(1青岛科技大学自动化与电子工程学院,山东青岛266042#
2江南大学物联网工程学院,江苏无锡214122)
.
.
摘要:递推辨识和迭代辨识构成了两大类辨识方法族。利用递阶辨识原理、多新息辨识理 论,针对多频标准正弦信号的建模问题,提出了递阶梯度迭代参数估计方法、递阶多新息梯度 迭代参数估计方法、递阶牛顿迭代参数估计方法等。给出了几个典型辨识算法的计算流程和 计算步骤。文中的方法可以推广到其它多频信号模型的参数辨识。
关键词:信号建模;参数估计;梯度搜索;牛顿搜索;多新息辨识理论;递阶辨识;迭代辨识;正弦信号
中图分类号:TP 273
文献标志码:A
引用格式:丁锋,徐玲,刘喜梅.信号建模(6):多频信号模型的递阶迭代参数估计[J].青岛 科技大学学报(自然科学版& 2017, 38(6): 1-13.
DING Feng,XU Ling,LIU Ximei . Signal modeling. Part F: Hierarchical iterative parameter estimation for multi-frequency signal models [J], Journal of Qingdao University of Science and TechnologyCNatural Science Edition),2017,38(6): 1-13.
Signal Modeling. Part F Hierarchical Iterative Parameter
Estimation for Multi-Frequency Signal Models
:
DING Feng,2,XU Ling,LIU Ximei1
(1. College of Automation and Electronic Engineering, Qingdao University of Science and Technology,Qingdao 266042,China;
2. School of Internet of Things Engineering,Jiangnan University,Wuxi 214122,China)
Abstract: Recursive identification and iterative identification form two large families of iden
tification methods. By means of the hierarchical identification principle and the multi-innovation identification theory,this paper studies the
multi-frequency standard
sine
signal model
ing ,and presents the hierarchical gradient based iterative(GI) parameter estimation method and the hierarchical multi-innovation GI parameter estimation method, and the hierarchical Newton iterative(NI) parameter estimation method. Finally, the computational steps and flowcharts of several typical identification algorithms are given. The methods in the papercan be extended to other multi-frequency signal modeling.
Key words: signal modeling; parameter estimation; gradient search; Newton search; mult-
innovation identification theory# hierarchical identification# iterative identification# sine signal
近年来,辅助模型辨识思想、多新息辨识理论、 递阶辨识原理、耦合辨识概念、滤波辨识理念相继问
世,为辨识的研究注人了新的活力,这些新型辨识方 法渗透到自然科学研究领域中,并与之相互交融,促
收稿日期:2017-10-25
基金项目:国家自然科学基金项目(61472195).作者筒介:丁锋(1963—),男,博士,“泰山学者”特聘教授,博士生导师.
2
青岛科技大学学报(自然科学版)
第38卷
进了自然科学的发展和繁荣。信号模型参数估计就 是系统辨识方法的典型应用。利用观测数据确定信 号模型的特征参数是信号建模的中心内容。一些辨 识新方法汇聚在《系统辨识学术专著学术丛书》 中[1_4],相关综述性论文探讨了系统辨识算法的复杂 性、收敛性、计算效率、辨识模型表达,以及辨识的基 本问题及其收敛理论[5—'。
最近,将辨识方法应用于信号建模,在《青岛科技 大学学报(自然科学版)》上刊登了信号模型参数估计 连载论文[913];并将梯度搜索、牛顿搜索、多新息辨识 理论、递阶辨识原理等应用到信号建模中,先后讨论 单频率信号建模[]、双频信号建模[1%]、多频信号建 模[11]的递推参数估计,以及多频信号的迭代参数估 计[12]和递阶参数估计[13]。本工作研究多频信号的递 阶迭代参数估计方法,包括递阶梯度迭代估计算法、 递阶多新息梯度迭代估计算法、递阶牛顿迭代估计算 法等。一些相关的工作可参见文献[14-20]。
1递阶梯度迭代参数估计方法
考虑多频标准正弦信号模型的参数辨识问题,!!) #
sini-1
(!\") ' (!), ⑴
其中&为各正弦分量的幅值为各正弦分量的角 频率,!!)是信号模型的输出,(!)为零均值噪声。
在系统辨识中,迭代算法通常使用批量数据估 计模型的参数。这些批量数据一般可以是预先采集 的观测数据,批量数据用数据长度来表示数据的多 少。假设数据长度为L,那么信号的L个观测数据为!(\"),!(\"),…,!!L)。
对于多频正弦标准信号模型!)而言,若假设 各正弦分量的角频率!,已知时(不考虑!,的辨识), 模型输出!()是关于正弦分量的幅值&的线性函 数。反之,若假设各正弦分量的幅值&已知时(不考 虑&的辨识),模型输出!()是关于正弦分量的角 频率的非线性函数。为此将多频正弦信号待辨识 的参数向量 0 —
,&2,…,,!1,!2,…,!!]< #
分解为两个子参数向量:
a: — [&1,&2,…,&„]< # $\",
— [!1,!2,…,!# $\"。
参数向量被分解后,本工作将分别推导出估计参数 向量a和〇的两个子迭代算法,然后给出联合估计 参数向量a和〇的递阶迭代算法。
令\"一\"为采样时刻,L为数据长度。定义观测 信号!(\")与信号模型输出误差
v(a,a,tk) *— y(\"k) —
i —1
sin(!\"+), (2)
定义定长数据准则函数
1 L
h (a,\") *— — \"V (a2 ,\",\")。
k—1
1.1 角频率已知的幅值梯度迭代估计算法
这里假设多频正弦信号各正弦分量的角频率! 已知,即参数向量\"不需辨识,各正弦分量的幅值, 为待辨识的参数,定义信息向量
\"&(\",\"):一
[sin(!\"k),sin(!\"k),…,sin (!\"+)]<# $'
当角频率已知时,\"&(\",\")是已知的。在这种情 形下,定长数据准则函数-1(a,\")是幅值参数向量
a的函数,可以简写为
1 L-2 (a) :— J1 (a,\") — — \"V2 1 (a,\",t+)—k—2\" yt)—炉<(\",t)a2 ]2。
k—1
定义堆积观测输出向量r(L)和堆积信息矩阵
$&(\",))为y (t1 )
\"(L)—
y (t2 )
# $L,
_!())_
$a(.\",L) *—
# $LX'
\"L)_
于是,准则函数J2(a)可以表示为
J$ (a) — 1 || \"(L) —$&(.\",Da
求准则函数J$ (a)关于参数向量a的一阶偏导数, 得到准则函数的梯度向量:
grad[J2(a)] *— *J$(a)—
—$<(\",L)[\"(L) —$a(xo,L)a] # $$。令a; — [a^,au,…,a$,JT为幅值参数向量a的第 /次迭代估计。当a = a,—1时,梯度向量的值为
grad[J2 (a,—1)] — g-d[J2 (a)] |『,1 — grad[J1(a,—”\")] —
—$T \",L) [\"(L) — $,\",L)
h
]。
令/,+ 0为迭代步长(iterative step-size)或收敛因 子(convergence factor)。根据梯度搜索原理,极小化 准则函数J$ a),可以得到估计幅值参数向量a的梯
第#期丁 锋等:信号建模多频信号模型的递阶迭代参数估计3
度迭代算法(gradientbased iterative algorithm,GI 算法\"
!i # !i—i —
grad[J2
#
grad[J\\ (!—&,\")]=
!-i +#&$<(\",))[\"())—$(\",))!—i /,i
— i 2 3 …
3)\"(L) — [^(,),^(,),…,;y(,:)]T,⑷$a(\",L)—
l#a(\",,i) , #a(\",,$),
…,(\",L),]T,(5)
#a(\",,k)—[sin!,),sin(!2,),…,sin(!,k)]T,
k — i 2 … L
(6)
# argmin -$ (!—i +#$<(\",))[\"()) —卜l]) #
argmin -i (!—i +#$<(\",L) [\"())—$&(\",L#—i ]\"),
()
! # [&i i,&2,i,…,&n,i]T + (8)
注1
在角频率参数向量\"已知时,梯度迭代
算法(3) ! (8)可以估计幅值参数向量!,因为\"(L) 和$&))都是已知的。因此该算法只适用于频率站 已知时信号模型参数向量!的估计。
注2 式()计算收敛因子#&/较为复杂,下面 给出一个简单公式确定#,i。式(3)可以写为
! i = {_ln— #a,i$<(\" ? L)$a(,\",L)] ! i—i '
#&i $T(\",L)Y(L),i # i,2,3,…,
可以看作状态为!的离散时间系统,为了保证参数 估计向量!收敛,要求矩阵[$ — #a,i $T(\",
L)$a(\",L)]的特征值均在单位圆内,且单位圆上
没有重特征值,即#a, i必须满足
—In , In —#&,$&(x〇,L)$a(x〇,L) , In,
故收敛因子#ai的一个保守选择是
,___________2___________ #
#ai \\$m« [$<(\",L)〇a(\",L)] 2Amax[$T(\",L)$a(\",L)], (9)
其中Amau[X]表示X的最大特征值。由于特征值计算
很复杂,故收敛因子也可简单取为
#a,i ,
$2
a (\" ^ L)
# 21| \",l)
(i〇)
1.2 幅值已知的角频率梯度迭代估计算法
假设多频正弦信号各正弦分量的幅值&已知, 即参数向量!不需辨识时,在这种情形下,定长数据 准则函数Ji(a,\")是角频率参数向量\"的函数,可 简写为
1 L
-3 (\"):# -i (!,\")# j2
k-i
(.!,\"\")。求准则函数-3 (\")关于参数向量\"的一阶偏导数, 得到准则函数的梯度向量
grad[-3 (\")] — *-!(〇)—
■*-3(〇\" *-3(〇\"
*-3\")]<
_ *!i *!$
*!$
-
# $$,
*-3 (\")
*⑴J
L
n
—k—\"
i
[:y(\") — \"i—i
asin(!\"k) ]a\"kC〇s(!\"k)
J — i 2 … n。
定义信息向量\"J'a,\"\")*—[a\"cos(!\"k),…,a\"kC〇s(!\"k)]< # $$。
定义堆积信息矩阵
(a,\",L) *—
[\"/a,\",\"),…,\"w(a \",l)]t # $LXn。
定义误差向量
((a ,\",,i)
V(a,\",L) *—
((a ,\",,$)# $L。
((a ,\",,l )
梯度向量grad[-3(\")]可进一步写为
grad[-3(\")] ——$< (a,\",L)V(a,\",L)。
令\",—[!i,i,2,i,…,!n,i]<表本角频率参数向量\" 的第i次迭代估计,令#!,i + 0为迭代步长(收敛因子j。当\"一\",—i时,有
grad[-3(\",—i)] — grad[-3(\")] 1\"-i —grad[-i(a #卜i)] ——$<(a # 卜i,L)V(a #—i,L)。
根据负梯度搜索,极小化准则函数-3 (\"),可以得到 估计角频率参数向量\"的梯度迭代算法(GI算法)$
\"i — \" i—i — #!,igrad[-3( \" /—i)]—
\"/—i — #!,igrad[-i (a,\" ;—i)]—
\"i—i ' #〇>, i
(,\"i—i,(aa
L)V(a,\"i—i,L),
(ii)
,\"i—i,L)—[炉(a, \"h,),炉(a#—i,$),…,炉(a,\",—i,L)]<,
(i2)
V a \"i,i L) —[((a,\"卜i,),((a,\"卜i,$),…,((a,\"卜i,l)]t,
(i3)
#! (a,\" i—i
,tk)—
[aWkCOsCtxii—i,,),…,a,kC〇s(! 3,i—i ,,k )]T, (i4)
4
青岛科技大学学报(自然科学版\"
第38卷
((!,\"卜1 ,\")#!(\")—
%ai7n(xoi/—&tk) &
-i
(15)
#!,1argminJ! (\"h +#$<(! #
h
,))'(! #
h
,))) —
argminj& (a,c〇i—1 ' #$! (a,c〇i—1,DV (a,col—1,L)),(16)
\"/ — 01/,!2/,…0n,/]T +
(1')
注3 在幅值参数向量a已知时,梯度迭代算 法(11) ! (17)可以估计角频率参数向量\",因为式 (11) ! (17)右边含有参数a。因此该算法只适用于 幅值&已知时信号模型参数向量\"的估计。
注4
由于准则函数了3(\")是\"的高度非线性
函数,故使用式(16)求最佳收敛因子#!/是极其困 难的,这里给出一种近似方法。将式(5)中的(a, \"/—1 \"+)用Taylor级数展开,取其关于\"/—1的一阶 近似得到
((^a,(〇i—1,t +) — y(\"+) —
% — 1
/—1。
定义信息向量% Ca,t +)
[&1\",&2\",.…,&\"+] # $
。
定义堆积信息矩阵
~%T (a,t 1)
&(a,L) *—
%T(a,t$)# $LX'
%T (a 11l )_
式(13)中的V(a,\"/V(a—1,L)可以近似表示为
,(〇—1,L)—Y(L) — & (a,L )\"/—1 # $L。
将上式代人式(1)可得近似关系
\"l—\"l—1+/!,$T(a#H,L)V(a#—1,L) —\"l-1+#!,$T(a,\"i—1,L)[Y(L) — &(a,L)\"/—1] —[_ln — 11 $! (a,\" 1—1,L)& (a,L)] \" 1—1 ',$$! a,\"i—1,L)Y(L)。
可以看作状态为\",的离散时间系统,为了保证参数 估计向量\",收敛,要求矩阵[ln —#!$l('a,\"i—1,
L)&(a,L)]的特征值均在单位圆内,且单位圆上没
有重特征值,即#!i必须满足
—1$ ,l$— , i (a,\" 1—1,L) & (a,L) , l$,
故收敛因子#!l的一个保守选择是
,____________2____________ —
#!i ' Am』$T(a,\"—1,L)&(a,L)] 2$mL[$T(a,\"—1,L)&(a,L)]。
(18)
由于特征值计算很复杂,故收敛因子也可简单取为
i《tr[$< (a ,\" —,D&(a,L)]-
2{tr[$< (a ,\" —1,L)&(a,L)]}—1。
(19)
1.3 幅值和角频率的联合梯度迭代估计算法
梯度迭代算法(3) ! (8)和(11) ! (17)是分别 假设角频率参数向量\"已知和幅值参数向量a已知 时的幅值参数向量a和角频率参数向量\"的辨识算 法。当角频率参数向量\"和幅值参数向量a都未知 时,这两个算法不再适用。一个简单思路是将两个子 辨识算法联合起来,利用递阶辨识原理,一个子算法 包含另一个子算法中的未知参数向量用其估计代 替,也就是式(3)〜(8)中未知\"用其前一次迭代估 计\"—1代替,得到式(20)〜(25),式(11)〜(7)中 未知a用其前一次迭代估计!
i—1
代替,得到式
(6)〜(32),便得到估计参数向量a和\"的联合梯 度迭代算法()nt gradient based iterative
algorithm,JGI 算法)$
a,— a—1 —#a,igrad[-1(a—1,\"—1)]—
a—1 (\",-1,L) [Y(L) — $a( to i—1,L) a ;—1]—
a—1 +#,$T,i (L) [Y(L) —$,i (L)a,—1 ],i — 1,,3,…,
(20)
Y(L ) — [y (t1 ) y (t2 ) … y (tL )] T
(21 )
, i
(L) *— $a(oi—1,L)—
[炉a (oi—1,t1 ),(oi—1,t ),…,炉a (o—1 \"l ) ]T —
[_#&ii,),#& i,
),…,#a,i (L)]T,
(22)
<\"a 11 (,k) *— \"a( 〇 i—1,,k)—[sin(!1,i—,+) ,sin(!2,—,+),…,sin(!$,i—it)]T,(23)
#a , i —argmin#+〇
-1 (a—1 ' $T #—1,L) [Y(L) — #—1,L#—1 ],
o—1) — argmin#+〇
-1(a—1 +#$T,i(L)[Y(L)—$a,i(L)a—1],
0—1), (24)
ai — [0a1 i 0a2 i … 0an i]T
(25)
0,一 0,—1 — #!,igrad[-1(a1,o—1)]—〇/—1 ' , iai—1,〇i—1,L)Vai—1,〇i—1,L)—
0 —1
,
$
T,i(L) Vi(L),
(26)
,i (L) *— $w(.ai—1,oi—1,L)—
[#w(aH, 〇,—1,,),…
, 〇,—1,l)]t [
[_#!,i,),#!,
i
t),…,#!,i(L)]T, (27)
, i(^+):— #〇/.ai—1,oi—1,t+)—[&1,i—tk cos(〇1,i—tk ),…,a$,i—11 cos (!n,i—11)],
(28)
Vi(L) :— V( ai—1,oi—1,L)—[((a;—1,〇,—1,,),…,((a;—1,〇—1,,:) ]t —
第#期丁 锋等:信号建模多频信号模型的递阶迭代参数估计5
.,!&),%!$)&••,%(〇]<,
(29)
Vi!k) *= ,(〇1—1 &k) #y(tk)— % # l
!%,l—l sin(〇%,i—& \"+),
(30)
#!,l
argniin/i#+〇
, \"i—& ' #$<(!—& #,—i,))'(! /—i (—&,
D) = argminJ#+0! (!—&,\"l-&+#$<())';())), (3D
\"l # [!&,l,2,l,…,!n,l]T + (32)JGI算法(0) ! (32)计算参数估计向量!和
\"l的步骤如下。
D初始化:令l = &,置初值!0 = [&,0 (2,0,…,
0 ]< #$\"为实向量,\"。=[!1,0,!2,0,…,!j,0 ]< # $\"为实向量。设定观测数据长度)和参数估计精度 &。
2) 收集观测数据y\"),= &,,…,L。用式
(2D构成堆积观测输出向量Y(L)。
3)
用式!3)计算信息向量& l(\"),k = &…,L。用式(2)构成堆积信息矩阵表,l(L)。
4) 用式(28)计算U\"),用式(30)计((\"),+ = &,2,…,L。用式(27)构成®! l(L),用式
(9)构成 %(L)。
5) 用式(24)计算最优步长#a,l(可取近似长)用式(3D计算最优步长#! l(可取近似步长)。
6) 用式(20)更新参数估计向量!,用式(26)更
新参数估计向量从式(25)的!中读出幅值特征
参数估计a, l从式(32)的\",中读出角频率特征参
数估计!,,l,%= &,2,…,w。
7)如 果 || !—!—& || ' || \"l—\& || >&,l |
增加&,即令l *= l + &,转至步骤3)否则得到参数
估计!和\"l,终止迭代过程。
注5 对于(GI算法(20) ! (32),
Vl(L) = V(al—&,\"l—&,L)=Y(L)— $all(L)! — # $L。
1.4 幅值和角频率的递阶梯度迭代估计算法
JGI算法(20) ! (32)计算收敛因子太复杂,如 果将算法中的收敛因子#al和#! l分别用式()! (0)和式(8) ! (9)的收敛因子代替,即
,_____________2_____________ =#a ' ^ Amau[$T( \",L)$a( \",L)]2AmL[$T(\" l—& ,L)((〇l—& ,L^],
(33)
, ,'2 ' =l \\ Amax[$T(! /—& ,\"l—&,DW(a/—& L)]
2Amau[$T#H,L) &
,L),
(34)
或简单取为
#a, l ,Oa(xo,L)
2 | Oa(to—&, L)
35)
' l ^ tr[$T(a ,(O
,L)W(a
,L)]
2{tr[$T(aH,\"—&,L)&
,L)]}-&。 (36)
采用式(33) ! (36)代替JGI算法(20) ! (32)中的 收敛因子,就得到辨识参数向量a和o的递阶梯度 迭代算法(hierarchical gradient based iterative
algorithm,HGI 算法):
al = al—& ' #a,l$T ( ol—&,L)[Y(L) — $a (〇l—&, L) a ;—&] = a l—& ' #a, l $T,l(L)[Y(L) — i(L
)!h],
/= & 2 3 …
37)#a,l<2AmL[$T,l(L)$al(L)],或
#a, l , 2| $a, l(L) II —2,
(38)Y(L) = [y(\"),y(\"),…,y(\":)]T,
(39)
$a l l (L) = $a( 〇 l—&,L)=
[[«(〇/-&,
\"),…,队(Oh,L)]T =
[#al
\"),#al(\"),…,#al(L)]T, (40)
#a , l (k) = #a( 〇 l—&,,k)=
[sin,!,l—,+) , sin(!2l—& \"),••, sin (!w,l—& ,k )]< (4&)
ol = ol—& ',l$!(al—&,ol—&,DV(a;—& ? o;—& ? L)O
=
l—& '#!,l$!,l(.L)VlL), (42)
#!l <2Amax[$T,l(L)&l(L)],或
,l , 2{tr[ $!,l(L)&,(L)]}—&, (43)
ll (L) = l0J(,al—&,ol—&,L)=
[#w(a,—&,〇—&,),…,#w(a,l)]t =
[#!l#(\"),#!,l,),…,#⑴,l (L)]T, (44)
!, i(t+) = #〇/. a l—&,〇 l—&,t +)=
& , l—11+ cos ( & l—& tk),…, aVl (L) ==V( a l—&ol—& L) =l—&,ol—&,, & ) … ■ v(al—&,ol—&,,l)]T =,(l (,),((,),…,(l (L)]T,(46) ((,)=v(,al—& ■ol—& ,k ) =y(,k) — \"% —a & z,l—& sin(aj, ? l—&,k),(47) =&(a l L) =[%(a 卜&,t&),%(a 卜&,\"),…,%(a 卜&,l)]t =[(,),%,(,),…,%,())]<, (48)%,(,):= %(a,—&,,k)=(a&,l—i,,…,a„,l—,], (49)al = [0a& l 0a 2 l …, a„,l]T,(50)Ol = \\_!&, l,(j〇2 , l,' *•,!„, l]T。 (5D ,,算步6 青岛科技大学学报(自然科学版) 第38卷 HGI算法(37) ! (51)计算参数估计向量二和 法不能用于实时辨识,即不能用于在线辨识。移动数 辨识 法 递 合,可以用于在线辨识。 考虑下列多频标准正弦信号模型参数辨识问题, y(t) = \" i = 1 二的步骤如下。 1) 初始化:令/ = 1,置初值i = .& &,a2,。,…, an,0]T 法与 法的 为实向量,W = [0)1,。,(&2,。,# $\"为实向量。设定观测数据长度L和参数估计精度 &。a,sin(,u) + v(t), (52) 其中::为各正弦分量的幅值,为各正弦分量的角 收集观测数据yU), = 1,2,…,L。用式 2) (39)构成堆积观测输出向量YCL)。 3) 用式(41)计算信息向量Uu),用式(45) 计算信息向量,用式!7)计算残差功(4), 用式(49)计算信息向量k(4),= 1,,…,L。 4) 用式(4。)构成堆积信息矩阵®u(L),用式 (44)构成堆积信息矩阵®,,(L),用式(46)构成残 差向量夂(L),用式(48)构成堆积信息矩阵k(L)。 5) 根据式(38)和(43)选择尽可能大的步长 和 6) 用式(37)更新参数估计向量&,用式(42)更 新参数估计向量t^。从式(5。)的&中读出幅值特征 参数估计从式(51)的二中读出角频率特征参数 估计i = 1,2,…,w。 7) 如果 || a, — a,— || ' || — ctH || >s,Z | 增加1,即令,*= , + 1,转至步骤3)否则得到参数 估计a,和,终止迭代计算过程。注6 HGI算法使用一批观测数据估计参数, 一般来说,参数估计误差与数据长度的平方根成反 比,因此数据长度越长,参数估计精度越高,故算法 中的数据长度应远远大于估计的参数数目。 2递阶多新息梯度迭代参数估计方法 递阶多新息迭代方法是使用滑动数据窗的数据 估计系统参数,数据窗是随时间不断向前移动的,故 滑动数据窗也称移动数据窗(movingdatawindow, MDW),所以递阶多新息梯度迭代方法又称移动数 据窗递阶梯度迭代方法。之所以将移动数据窗辨识 方法称为多新息辨识方法,是因为它们使用了相同 的准则函数。 在HGI算法的迭代计算过程中,使用的是一个 静态数据窗的L组观测数据,在整个计算参数估计 的过程中,使用的都是同一批不变的静态观测数据。 为了使辨识算法与客观对象连接起来,将实时测量 的数据引人到辨识中,这样的算法中有实时的时间 变量,随着时间的推移,不断有新量测数据用于计算 参数估计。这样的算法包括递推辨识算法和笔者提 出的移动数据窗迭代辨识算法。传统的迭代辨识算 频率,y()是信号模型的输出,(()为零均值噪声。 定义幅值参数向量a和角频率参数向量t。 a *= [1,&2,…,&„]< # ,t *= [,l,,2,…,, 。 设U U为当前时刻& =。,1,2,…。定义观测输出y(U)与模型输出\"i = 1 &sin(,^)误差 v(a,(〇,tk) *= y(k) — ,=1 (,U+) # $。 利用直到当前时刻t = t+的最新^组数据定义移动 窗观测数据准则函数(moving data window criterion function) 1 k -4(a,ct) *= y m =\" k—p+1 v2(a,ct,‘)。本节研究基于动态窗观测数据的移动数据窗递 阶梯度迭代参数方法,即递阶多新息梯度迭代参数 估计方法。 2.1 角频率已知的幅值多新息梯度迭代估计算法设滑动数据窗长度为5,即新息长度 (innovation length)。至当前时刻t = tk的滑动窗的 p个观测数据为y (k),y(k—1),…,y(k—p+1)。这些数 据是随采样时刻tk不断变化的,即随k的增加,数据 窗不断向前滑动,不断有新采集到的数据加人到观 测数据队列中,并将数据窗里最旧的数据剔除,使滑 动窗观测数据不断地更新。在前期的连载论文中提 出的多新息随机梯度参数估计方法就是基于滑动窗 观测数据的[11]。使用滑动窗数据推导估计正弦信号 模型参数的迭代方法是一种崭新的尝试,它实现递 推算法与迭代算法的融合,在方法上有重要创新。这 里推导移动数据窗梯度迭代参数估计方法,实现了 数据更新,使多频正弦信号模型参数估计的迭代与 递推交互计算。 假设角频率参数,已知,即参数向量t已知 (不需要辨识),待辨识的为幅值参数向量a。在这种 情况下,准则函数人a,t)可以简写为 —5(a) *= —4(a,t)= 1 \" [y(m)- \"&sin(,tm)]2。 第#期丁 锋等:信号建模多频信号模型的递阶迭代参数估计7 定义信息向量 *=[sin(Wl\"),sin(a;2\"),0,sin(a\"+)]T#$w。 定义堆积信息矩阵 l#a((〇,\" +),#&(\" \" t k-i),,0,#&(\",t +_5+i)]T # UPX$。定义堆积观测输出向量 [!(\"),!(\"—i),…,!(,—P+i)]T # $P。 于是准则函数J5(a)可以进一步表示为(«) •# & II \"(P \") — $& (P,\" II $。 求准则函数J5 U)关于参数a的一阶偏导数,得到 梯度向量为 grad-5(a)] •= *4da ^ = — Ol^CP,\",t k))Y(.P,t k)—0a(P,\",tk)d] # $$。 令 a,(\")•= [i,,(\"),&$,,(\"),…,&$,,(\")]< # $$ 表示参数向量a在当前时刻z = t+的第Z次迭代估 计,/&“,)为当前时刻t = t+的第Z次迭代步长。基 于负梯度搜索,极小化准则函数J5 (a),可以得到辨 识幅值参数向量a的多新息梯度迭代算法 (multi-innovation gradient based iterative algorithm,MIGI 算法)$ a,(k) = a,(k) — #&,(,)grad—5(a,—i(,))]=a,(t) — #&,z(k)grad—4(a,—i(k),\")]= ^l(tk) ' #a Z z(^k)$T(P ? \",tk))V(,P,tk) — Oa(.P,\", ,k) ai (,)], (53) #ai (k) = argmin—5 (l—i (k)'#$T(P,\",k)[\"(P,t) — (P,\",t)aH (,)])= argmin—4 i (,)+#$T(P,\",,)[\"(P,,)一 Oa (P , \",tk)a—i (k)),\"), (54)\"(P,t) = [!(,),!(,—i),…,!(t—P+i)]T, (55) Oa(P,\",,k)=[#&(\),#a(\",t—i),…,#a(\",t—p+i)]t, (56) #&(〇,t k—j)=[sin(!,k—2) ,sin(!,k—2 ),…,sin(!,k—2)]<, j = 0,i ,…,p — i, (57) a,(t) =,&i,1(,),&2,i(,),…,a$,i(,)]T。(58) 多新息梯度迭代算法又称移动数据窗梯度迭代 算法(MDW-GI算法)。 注7 式(53)可以写为 a,(,)= [%$ — #&,i(,)$T(p,\",k)$a(p \", tja—it) '#a,l(k)$T(P,\",k)\"(P tk)。 上式可以看作状态为a“,)的离散时间系统\"是 常数)i [i,,,…,为了保证参数估计向量a,(,) 收敛,收敛因子#a, l(k)的一个保守选择是 2 #a’l(k) \\ Amax[$T(p,\",t)〇a (p,\",,)] 2AmL[$T(p,\",,)〇a(p,\",k)]。 (59) 由于特征值计算很复杂,故收敛因子也可简单取为 2 卜’l(k), I $>a(.P,\" , tk) II2 = 2 II oap\",))―2。 (60) 2.2 幅值已知的角频率多新息梯度迭代估计算法 假设多频标准正弦信号各个幅值分量&已知, 即幅值参数向量a已知时(不需要辨识)。在这种情 况下,准则函数—4 (a,\")可以简写为 i k —6 \") •= —4 (a \") = $ \" t$(am — k—p'i \",6)= -y m =\" k—p'i [y(tm) — \"i = i asin!,m)]。 求准则函数—#(\")关于参数向量\"的一阶偏导 数 得 向 grad[ — (\") ] [ —#(\")[ _ O^ COi 0(^ 1)2 ,…, 0X (!)$ _ # $ , dj6 (\") [ d〇)j — k $ m = \" k—p'i [y(^m) — \"i = i asin(〇,m) ]a,mcos(〇,m)。 定义堆积误差向量 V(p,a,\" ,tk_) :[ [幻(a,\",,),…,幻(a,\" ,,—p+i)]T #$ P。 定义信息向量 #O (a,\" ,tk) :[ [\" cos! \"),…,a,kC〇s(〇,k)]T # $ $。 义堆积信息矩阵 $O (p , a,\",tk):[ [#!(a,\" ,k),…,#〇(a,\",k—p+i)]T # $P'$。 于是梯度向量数J6(\")可以进一步表示为 grad—6 (\")][ — $<(P,a \" ,,)V(p,a ,k)。 令 :[[〇i,i(,),〇2,i (,),…,〇$i (,)]<#$ $ 表示参数向量\"在当前时刻t [tk的第l次迭代估 计,#〇,l(t)为当前时刻t[tk的第l次迭代步长。基 于负梯度搜索,极小化准则函数J6(\"),可以得到辨 识角频率参数向量\"的多新息梯度迭代算法(MIGI 青岛科技大学学报(自然科学版\" 第38卷 算法\"$ (4 ) [\"/-&(4 )—#!,,(4 )grad[-6 (\",—&(\"))][ \",-i (\")—#& (4) g—d[-4 (!,\",—&(\"))][\"卜& (\") _ &,\"l-i(k) &+)' &&l-&(k) &k) &(61) (4) [arg#m+〇 in-# (\" i—i (+) _ #$< (P,!,\"/—i (4),4)'(P,!,\"/—i (4),4)—argmin#+%-4 !#卜& (+) +\"$<(p,a#卜& (+),4)'(p & ! ->(〇i—i (t +) , ), (62) (P,!,\"/-1 (4 ),4 )— [炉Ja,\"/—i (+) 4+),…’炉⑴(a,\" i—i (4 ),4—P_i )], (63) '(P,^(〇i —i (4 ),4 )— [((a,\"/—i (+),4),…((a,\"/—i (+),+—p+l) ]T, (64) #! ( a,\"/—i ( 4 ),4+—2 ) [ [&i 4—2 c〇s (!i,i—i ( 4+ )4+—2 ),…,&,+—2 C〇S(!$,i—i (+) 4—2) ] , (65) ((a,\"i—i (+),4—2) — !(+—2) — \"a,sin(!,, l—l()+')t+—)'),j = 1,2,…,p — 1, ( 66) i~i (〇 i ( 4 + ) — [!l,i (+ ) 02,i (+ ),…0$i (4 )]。 6') 注8 关于近似收敛因子#!,i(+)的确定,将式 (66)中的((a#,—i (+),4—2 )用 Taylor 级数展开, 取其v关(于!,(O\"—il (4)的一阶近似得到 —l()+),t+—3') — ! (4-2)— i-i ait+—j(j〇i^i—i (+)。 定义信息向量% (a,4+—2)— [&1 4—2,& 2 4—2,…,&)+—2 ] # $ 。 定义堆积信息矩阵 %T (a,+) &( P,,+ ):— %T(a,,—i) # $PX$。 _%T (a,,—P_i)— '式(P(64)中'( P,a,\"—i,),,)可近似表示为,jC\"P\"/—i (4)/,4) —(,+) — & (a,+ —i (+) # $P。 将上式代人式(6i)可得近似关系$ (〇i (,+) — \"/—i (,+) _ (,+) ( P ^ a,c\"/—i t+)'(Pa(,+),,,\"/—i (,),,)一£\";—i (,+) _fj.!,(,+)$T (P, a,\"i—i (+),,)[\"(P,4) — & (P,a,+ )\"i—i (,)]— (+ ) $T (P,a,\"i—i (+ ),+ ) & (P,a,,+ )] \"i—i (+) +#!,i ())$T(P,a,\"l—i (+),+)Y(p,+) +上式可以看作状态为\"i (4)的离散时间系统,是 常数)i—1,2,3,…,为了保证参数估计向量\"l()) 收敛,收敛因子#!i (+)的一个保守选择是 #!i (4), _________________2_________________— Amax[$T (P,a,(〇i—i (4+) ,t+)W(P,a,t+)]2A;;;i[$T(P,a,\"i—i (+),4)& (p,a,))] + (68) 由于特征值计算很复杂,故收敛因子也可简单取为 2 #!’l())\r[$T(p,a,^\"卜l (4),4)&(P,a,4)] 2{tr[$T(P,a,\"—1()),))&(P,a,))]}—\\ (69) 2.3幅值和角频率联合多新息梯度迭代估计算法 MIGI算法(53)! (58)能够估计幅值参数向量 a,MIGI算法(6i)〜(6')能够估计角频率参数向量 \"。将两个算法联合起来,利用递阶辨识原理,式 (53)!(58)中未知\"用其前一次迭代估计\"—1(+) 代替,得到式('〇)! ('5),式(6i)! (6')中未知a用 其前一次迭代估计a,—i ( 4 )代替,得到式('6 ) !(82),便得到估计参数向量a和\"的联合多新息梯 度迭代算法(joint MIGI alg〇rithm,JMIGI 算法)$ #a 4+ ) — a,—l())—#a,l())grad[-4(a卜l()),\"l—l()))] — a,—i (+) _#,i (+)$T,i (P,,)[\"(P,,)一$,,i (P,,)a 卜 i(+)], ('0) #,i (+) — arg+nin—4 (a/—i (+) _ #$T,i (P,+ ) [\"(P,,)一 $a,i (P,+ )a卜i (,)],\"/—i(,)), ( 'i)\"(P,+) — [!(,),!(4-i),…,! (,-p+i)]t,'2) $,,i(P,+) :—$,(P,\"i—i,),,)— [#,( —i (+),+),…,#a(\"i—i (+),+—p+i )]T — [#,,i(4),#,i(,—i),…,#,i(+—p+i)]t, (3) #a,l(t+ — 2'):—#a(XOl—l(t+),h — 2') —[sin(!i,i—i (,),—2),…,sin(!$i—i (,),—2)]T, 2 —0,i,…,p —i, (4) a i(,+) — [&i,i (4),&2,i(4),…,&$i(,)],( '5) \"i(,+) — \"i—i (,+) — #!,(,+ )grad[—4 ( ai—i (,+ ), \"i—i (,))] — \"i—i (+) _#!,i (+) $T,i (P,4) 'i(P,+), '6) (+) —argmin—#+0 4 #,—i (+),\"i—i (+) _ ,T,i(P,,)'i(P,4)), (') $!i(p,+):—$⑴(p,a,—i,),\",—i,),+)—[#! ( — i 4+ ), \" i —i ('t+)t+'),…,#!('ai —i 4+ ), \" i —i(+ ),,+—P_i ) ] — [ #!i (,+ ),#!i (,+—i ),\"•,#!,i 第#期 丁 锋等:信号建模多频信号模型的递阶迭代参数估计 D !k-p_i )]<, (78) #!/(tk-j ) ''=#! (Cl I一 1 (\"k) j(〇i-i ( \"k) jtk-}') = \\_&1,l-1!k') tk-j;)7(J〇1,l—1 !k) \"k-j.\",…,&n,l-1 !k) \"k-2COS(!$/—i (t)t-j)]T, (79) 'i(p,k) ]=V(p,i-1(tk),i-1(k),h) = lv(al-1 (k) j(〇i-1 !k) jtk),,…((a/-1 ttk) j(〇i-1 ttk),\"k-p_1)]T — ((i (\"),(i (t-1 ),…,(i (t-p+1)]T,(80) lVi (tk-j) * — v(a;-1 ( tk) •>(〇i-1 (tk) ? \"k-j)— !(\"—2) — \"i-1&%i—1 (\")sin(!1,i—1 (t)t—j), (81) (〇l ( \"k ) — 01,i (k ) 02,i (k ),…(k ) ] + (82) 联合多新息梯度迭代算法又称联合移动数据窗 梯度迭代算法(joint MDW-GI algorithm,JMDW- GI算法)+ 注9 对于(MIGI算法(70)〜(82), 'l (. P,k) — V ( p,!i-1 ( \" k),(〇l-1 ( \" k ) ,>t-k)— \"(p,t)-$&i(p,\")a i一 1 (\")# $p+2. 4 幅值和角频率递阶多新息梯度迭代估计算法 JMIGI算法(70)〜(82)计算收敛因子太复杂, 如果将算法中的收敛因子/&,i(t)和/!,i(t)分别用 式(59)〜(60)和式(68)〜(69)的收敛因子代替,即 t ), 2$-1 [$< (p#卜1 ( t) t)$&(p,\"l-1( \"),\")],(83) #!l (k), 2A-U[$T(p,# ai-1 (k )( i -1 (\"),\")& (p,ai -1 t+), tk)], ( 84) 或简单取为 #a,l ( \" k),'2 || $a(p,-1(k),t) || -2, (85) t+), 2{tr[$T( p, !i 一 1 (\"k)\" l一 1 (t),tk)&(p, !i一 1 t+), tk)]}-1。 (6) 采用式(83)〜(86)代替(MIGI算法(70)〜 (82)中的收敛因子,就得到辨识参数向量a和\"的 递阶多新息梯度迭代算法(hierarchicalmulti-inno- vation gradient based iterative algorithm, HMIGI 算法\" !'(k) —!卜 1 (\") —#&i (\")grad[J4 #卜 1 (\"), (\"卜1 ( t ) ) ] — !卜1 (k ) _\"a,l (k )$T,l (ptk)Vi(ptk), 87) #a,l (k ),2A-ax [$T,l (p tk )$al (p,t )],或#aJ(tk),2 | $aJ(ptk) II -2, (8)\"(p,t) — [!(\"),!(k-1),…,! (t-p+1)]T, 89) $aA.p,k) —$a(,l-1(k),k)—[[a(\"l-1(t) tk),…,#a(\"l-1(t),t-p+1)]T —[#al(k),#al(k-1),…,#al(k-p+1)]T, ( 90) #a,l ( \"k-j )—#a ( \" l-1 ( \" k) ?^k-j )— [sin(!1,i—1 (t)t—j ),…,sin(!$,i—1 (t )t—j )]T, j —0,1,…,p-1, (91) \",(\")一\"l-1 (k) — #!i (t)grad[J4 # 卜 1 (k), \"l-1 ( t ) ) ] — \"l-1 (k ) _#!,l (k ) $T,l (ptk) Vi(ptk), 9$) #!,i (k),2$—1 [$!,i (p,t) (p tk)],或 NitXSUid^iptJ&lptk)]}-1, (93) ( p tk) — $! ( p,a i—1 (t k) ? \" i—1 (tk) jtk )'— L#!#i—1 (tk),(Ol-1 (tk),tk),••,,#! (!i—1 (tk),(〇i-1(t ),tk—p_1 )]T — [#!,l (\"k ),#!l (tk-1 ),•••,#!l (t k-p_1 )]T, (94) #!,l ( \" k —j ) — #!#l-l!k),COl-l!k),k—j)'— L<^1,i—1 (\"k t k—j cos (〇»! i—1 ( tk ) tk—j ),’…•>an,i—1( \"k \"k—j cos(!$,i—1 (,),-2)]t, (95) V p,k) — V(p,ai—1 (tk) ? (〇i—1 (tk) •>\"k)— [v(a,—1 ( \" ),\"i—1 (\"),\"),…,v# 卜1 (k),\"l—1 (k), \"k—p_1)] —((i ( t ),(i (\"—1),…,(i (\"—p_1)] ,(96) V (t—j) — v(a i一 1 (t k ) ? (〇 i—1 (\" k ) ?\" k—j )— !(\"—j) — \"〇i,i—1 (t)sin(ai,i—1 (t)t—j), (97) i-1&i ( p,k ) *—& ( p,a i( tk ),tk )— i 1 ( t ),t—1),…, \"%(- a i一 1 a 卜% a i 一 1 t ), k—p_1) ] —[ (t ),(t—1),…,(t—p_1)], 98) Vl(t-j) *—%(a,—1(t ),t—j) — [〇! l—1 ( \"k t k — j (2 l —1 ( \"k ) \"k — j,(n,l—1 ( \"k t k —j ], 99) a i (t k ) — [11 (k ),a2,i(t ),…,an,i(t )],(100) \"l ( \" k ) —,1,l (k),2,l (k),…0n,l (k)]。 101) 递阶多新息梯度迭代算法又称移动数据窗递阶 梯度迭代算法(MDW-HGI算法)。 HMIGI算法(87)〜(101)计算参数估计向量 a,t )和\"i t )的步骤如下。 1)初始化:设置数据窗长度p,令k—p。置初 值 a0(t ) — [a1,0(t )(2,0(\"),…,〇$,0(\")]为头向里,\"0 (k ) — [!1,0 (k ),!2,0 ( t ),…0n,0 (k ) ]T 为头向量。采集观测数据!(t),!\"),…,!(p-1)。给 定最大迭代步数lmau和参数估计精度^对于维数 不高的系统,梯度迭代算法可取lau几百到几千,最 10 青岛科技大学学报(自然科学版\" 第38卷 小二乘迭代算法可取Zmax<10或Zmax = 6。 2) 令Z=1。采集观测数据用式(89)构 定义幅值参数向量a和角频率参数向量o。 a = .1,&2,…,&$]<#$$, 造堆积输出向量^(力,4)。〇 = [!1,!2,…,!$/<#$$。 3) 用式(91)计算信息向量^^(4—,),用式(95) 设t = t+为当前时刻,+ = 0,1,2,…。定义观测输出计算信息向量^,,(,-,),用式(97 )计算残差),用式(99)计算信息向量k,-,)& [〇,1,…,夕一1。 G)用式(90)构成堆积信息矩阵也,/(心,),用 式(9G)构成堆积信息矩阵®^(f,,),用式(96)构 成残差向量化(心,),用式(98)构成堆积信息矩阵 &/(,+)。5) 根据式(88)和式(93)选择尽可能大的步长#a,L #a),/ 。6) 用式(87)刷新参数估计向量& (,),用式 (92)刷新参数估计向量士,,)。从式(100)的^ (+) 中读出幅值特征参数估计&,/(,),从式(101)的 二(,)中读出角频率特征参数估计!„/(,),z [1,2, …,。 7) 如果/〇„,/就增加1,转至步骤3);否则执 行下一步。 8) 如果 || a,,)一 a,—1 (+) || _ || 阶,)一 阶—1 (,)|| >s,就令 a。(,_1) [ a,(,),to。(,+1)[ 二(,),:=+ + 1,转至步骤2);否则获得参数估计 a,(,)和&(,),结朿迭代计算过程。 注10多新息迭代算法的参数估计精度取决 于新息长度々,故滑动数据窗々应足够大,且々0$。 关于最大迭代次数/〇„的确定,事实上每次循环的 迭代次数可以动态调整,在迭代计算参数估计时,若 继续增加/,参数估计差(参数估计精度)没有明显 的变化,可停止迭代计算,而增加+,收集和引人新 的观测数据^(,)到辨识中,再次开始计算迭代参数 估计,直到获得满意的参数估计精度。 3递阶牛顿迭代参数估计方法 相比梯度方法使用一阶导数,牛顿方法使用二 阶导数,一般来说牛顿方法的计算精度高于梯度方 法。为获得更高的参数估计精度,本节基于牛顿迭 代搜索和递阶辨识原理,推导多频标准正弦信号模 型参数的递阶牛顿迭代参数估计方法。 考虑下列多频标准正弦信号模型参数辨识问题, !() =& sin(!,)+a2 sin(!$,)_---_ a„sin(!„,)_(() [ \",一1 atsi n!,)' v(t), (102) 其中&为各正弦分量的幅值,!为各正弦分量的角 频率,!,)是信号模型的输出,V,)为零均值噪声。 !(,)与模型输出\",一1 &sin(!,+)误差 v(a,co,t) :=!(,)— \",一1 &sin(!,+) #$。 利用收集的L组观测数据!(,),!(,),••,!(〇 a 为有限数据长度),定义定长数据准则函数 1 a -7(a,w) := j \"v2(a,w,+)。 乙+#13.1角频率已知的幅值牛顿迭代参数估计算法 在角频率参数!,已知,即参数向量〇不需要辨 识时,准则函数-7 a,o)只是幅值参数向量a的函 数,此时可以简写为 —8(a) :=—7(a,co) = 1 \"[ !(,) — \"z&sin(!,+ )]2。乙 k-1-1定义信息向量 #&(〇,,+):= [sin(!,),sin(!,+),…,sin(!,+ )]T # $$。!! 义堆积 向 !! 义堆积信息矩阵 $& (〇,a):= l#a((〇,t 1) , #&(〇,t 2),•…,#&(〇,tL )]T # $LX$。 于是准则函数可以表示为 —8 (a)=y I Y(L) — $a(.(〇,Da | 2。 求准则函数—8 (a)关于参数a的一阶偏导数,得到 向 grad[—8(a)] :='— = — $T((〇,L)[Y(L)—$a((〇,L)a^# R\"。 由于牛顿方法需要二阶导数,求准则函数—8 (a)关 于参数向量a的二阶偏导数,得到海赛矩阵(Hes- sian matrix, Hesse矩阵)为 Ha(xo,L) d2 — 8(a)='grad[—8(a)] 3a3aT 3aT $T(〇 , l)$&,a# $\"x\"。 令a,:=[&1,/,&2,/,…,&$/]T表示参数向量a的 第/次迭代估计,当a = a—1时,梯度向量可以为 grad[—s(az—1)] :=grad[—s(a)]|a—/ 1 = 一$T(〇,l)[y(l)—$&(〇,aa—1]。 基于牛顿搜索原理,极小化准则函数—8 (a),可 第#期丁 锋等:信号建模多频信号模型的递阶迭代参数估计11 以推导出估计幅值参数向量a的牛顿迭代算法 (Newton iterative algorithm,]%!算法)$ a, =a卜& —(71 (\",))grad[-8 (a卜&)] =a卜 & (\",d grad[-' #卜 &,\")]=a卜 & _ [$<(\",))0&(\",))]—&$<(«,L) [\"())—0&(\",)) a ;—&] = [$T〇o , L)$a(.(o,L)]—&$T(co,DY(L),(&O3) , (OG)0a(.Co,L)] =[^aXco#t ) ,#&(co \"2),…,#& (cot))]T,(&O5) a (o ? tk)= [sin(!,k),sin(!2\"),…,sin(!,k)]T, CLO6) a,= (a&,i,a2,i,…,,n,i]T。 (&O7) 注11 NI算法a〇3)〜a〇7)可以在角频率已 知的情况下,估计系统的幅值特征参数向量a+从 式(K!)可知,当准则函数是参数向量的二次函数 时,牛顿迭代算法退化为最小二乘算法,即最小二乘 一次完成算法(103)!(107) + 3.2幅值已知的角频率牛顿迭代参数估计算法 在幅值参数&已知,即参数向量a不需要辨识 时,准则函数-7 U,\")只是角频率参数向量\"的函 数,此时可以简写为 —D\") :=—7(a \")= &乙 \"k-& [!(\")- \"i~&&sin(!\"+)] +求准则函数—D(\")关于参数\"的一阶偏导数, 得到准则函数的梯度向量 grad[—9 (\")] :='—9\"\")= ~d—9 (\") '— 9 _ ^ 0(1)& 0^ (\") (1)2 ,…, '—O:9C; \"O \") )< ^n -# $rn) $ ,d— 9 (\")= dajjL n —\"k-& [!(\") — \"i-&&sin(!k)]&\"kC〇s(〇\"k),2 — &,2,…,$ + 定义信息向量 ( a,o\" \"k ) := [ &&\"cos ( 〇\"+ ),…, a\"kC〇s(o\"k)]T# $$ + 定义堆积信息矩阵 $!(a,o,L) :=[#〇(a,o,\"),…,#〇(a,o,L)]T#$LXn。 定义误差向量 V(a,co,L):=[幻(a,o,\"),…^(a,co,L)]T # $L。 梯度向量grad[—9(o)]可进一步写为 grad[—9 (\")] = —$< (a,o,L)V(a,o,L)。 求准则函数—9 (\")关于参数\"的二阶偏导数, 得到准则函数—9 (\")的海赛矩阵 HO (a,o,L) _d2 — 9 (〇) = ~d2 — 9 (〇) ~ dc〇d(〇T L OcOjOcOr _2,r=&, 2,…,n,02 — 9 (o) L 0(j〇j0(j〇r \"k — & a&\"2cos(〇,k)cos(〇,k) & 2 r, 0 — 9 (o) L OcOjOdj \"k-& a,$cos2 (!\"k)' Ln k\"-&[ !(\") — \"i-&&sin(〇,k) ]&\"$sin(!\"k)— L L n k-& k-& y(tk) — %2j \"aisin(i,k)]^\"^sin(i,k)。 令\",]=[Ol,,〇2,,,…,!n,,,]<表本参数向量\" 的第z次迭代估计。根据牛顿搜索原理,极小化准 则函数—9(0),可以推导出辨识角频率参数向量\"的牛顿迭代算法(NI算法)$ (〇1 =£0/—& — H—& (a,(0i—&,L)grad[—9 (£〇;—&)] = oz—&—H—& (a,0,—”L)grad[—7 (a,0,—&)] = \"卜&+H—& (a,0,—&,L)$<(a,0,—&,L)V(a,0,—&,L), )(ad〇8,(〇i—&,L)= l#0J (a,to i 一 & ,\"),…,#!(a,o i—& , ,L )]T, d〇9) #!(a,co卜l,k) = [&&\" cos (Via! (ol—l,l—&l \"),…,&,k cos (On,i—&\")] , (HO) ,,L)=[幻(a,oi—&,),…&(a,oi—&,l)]t, d ((a , oi—& ,\")——!(\") —〉\"& & sin (oiiH \"), i- (H2) H〇 (a,oi—&,L) = [Zjr (a,oi—&,L)], j,r= &,2,…,n, (H3) hjr a ,(ol—l l)= L \"& a3artkcos(x〇3,卜,k)cos(!r,—&\") j 2 r, (H4) k-L hjj (a,o卜&,L) = \" a,$ ' k-Ln & \"[& !(\") — \"&isin(〇i,i—&\") ]a\"ksin(!.,i—,), k-i 2j (H5) oi := (l,l (2,i ,…(n,i]T。 (n#) 3.3幅值和角频率递阶牛顿迭代参数估计算法 NI算法(1O3)〜aO7)能够估计幅值参数向量 12 青岛科技大学学报(自然科学版) 第38卷 a,NI算法(108)! (116)能够估计角频率参数向量 «,若将两个算法联合起来,则既可以估计a,又可以 估计…然而问题出现了,因为一个子算法包含另一 个子算法中的未知参数向量,解决的办法是利用递 阶辨识原理,将式(103)!(107)中未知〇用其前一 次迭代估计^-1代替,得到式(117)! (120),将式 (108)!(116)中未知a用其前一次迭代估计L—1代 替,可得到式(121)!(130),便得到估计参数向量a 和w的递阶牛顿迭代算法(hierarchicalNI algo rithm ,HNI 算法)$ a, =a,—1—(—1 (\",—1,L)grad[J7 #卜 1 #卜 1)]= [$<(\"h,))$& (\"h,))]—1$<(\"h,)\"())=[$<,())$&,,())]—#<, ()\"()), (17) \"()) = [!(\"),!(\"),••,!())]<, (118) , i(L) :=$a((〇i—1,))= [[& (\"卜 1 \"1),& (\"卜 1,))]< = [#&,,(\"),#&,(\"),•,#&,())]<, (119)1,\")=[sin (! 1 ,—1,\"),…,sin (!$,,—1,\" )]<, (120) (〇i = £\"/—1 一 (a;—1,\"/—1,)) grad [ — 7 (a;—1,\",-1)]=\",-1 # 卜 1 ,\",—1,))$<#;—1,\";—1,L) 'a—1,\"卜1,))=\",—1_(— ())$<,i a)', a), (121) ,,a) ]=$! Ca,—1,(〇i—1,L)= (a,—1,\",—1,\"),…,,!(a,—1,\",—1,a )]=[#!i,),#!,(\"),…,#⑴,i(a)]<, (122)#〇>,,(k) :=#! (a,—1,(〇,—1,tk) =[&1 \" cos (!1 i—1 \" … cos (!$,i—i \")] , (123) 'i(L) :=V(a/ —1, (〇i—1,L)= [幻(a^—1,\"i—1,,),…,幻(a^—1,\"i—1,l )]=(,)d ),…((a)]<, (124) (i(k) :=((a卜 1, \"i—1,+) =i-1&%,i-1 sin(a%,i—1 ,+), (125) (■wii(L) :=(!(ai—1,\"i—1,L)= \\_hjr(. a i—1,\" i—1,L)]= [r,i (L)],j,厂=1,2,…,$, (126) h,,i(L) := h, (ai —1 \"i—1 L ) = Lik-1 -1&T i i-it \\c〇s(!} i i-,k)c〇s(wr , i-1,k),j 2 7,(127) h a i—1,\"i—1,L L hjj,i (L) : = ,() =〉\" , i—i,2 ' L n k-1 kz —\" 1 [!(, )— %2j i-1 sin(!,—i,)]&,—!,sin(a,,—,), (128) a, = [1,i (2,i,…,a$,i]<, (129)\"i = [w1, z ,…,wn,i]< + (130) HNI算法(117)!(130)计算参数估计向量a, 和\"i的步骤如下。 1) 初始化:令i = 1 +置初值a。= [1,0,a2,0,…, an,0 ]为随机头向里,\"0 = [!l,0,!2,0,…,wn,] 为 随机实向量(目的是保证矩阵$2) 采集观测数据!(k),k = 1,2,…,L。用式 (118)构造堆积输出向量Y(L)。 3) 用式(120)计算信息向量#&i(k),用式(123) 计算信息向量#! i(k),用式(125)计算残差向量((k) ,k = 1,2,…,L。 4) 用式(119)构造信息矩阵LL),用式(122)构 造信息矩阵$•, i L),用式(124)构造残差向量LL)。 5) 用式(127)!(128)计算海赛矩阵各元(L)和 h2,i (L) ,j , r=1,2,…,n。用式(126)构成海 赛矩阵(!i(L)。 6) 用式(117)刷新幅值参数估计向量a,,用式 (121)刷新角频率参数估计向量从式(129)的a, 中读出幅值特征参数估计a i,i,从式(130)的\",中读 出角频率特征参数估计!iii = 1,,…,n。 7) 如果 || a 厂 a,—1 || _ || \"厂\"卜1 ||>s,i 就增 加1,转至步骤3)否则获得参数估计a,和\"i,终止 迭代计算过程。 注12对于非线性优化问题,牛顿迭代算法的 估计误差依赖初值的选择。如果初值偏离真值太 远,将会导致牛顿方法发散的可能性加大。 4结语 针对多频标准正弦信号的建模问题,利用梯度 搜索、牛顿搜索原理,研究和提出估计多频正弦信号 特征参数的递阶梯度迭代算法、递阶多新息梯度迭 代算法、递阶牛顿迭代算法等。所提出的方法可以 推广到其它多频信号模型的参数辨识,也可推广到 传递函数和动态系统的参数辨识[128]。 参考文献 [l] 丁锋.系统辨识新论[M].北京:科学出版社,2013. DING Feng. System Identification-New Theory and Methods [M]. Beijing: Science Press,2013. []丁锋.系统辨识一辨识方法性能分析[M].北京:科学出版社, 2014 DING Feng. System Identification-Performance Analysis for Identification Methods[M]. Beijing: Science Press,2014. h,,i 第#期丁 锋等:信号建模多频信号模型的递阶迭代参数估计13 [3] 丁锋.系统辨识一辅助模型辨识思想与方法[M].北京:科学出 版社,2017. DING Feng. System Identification.一Auxiliary Model Identification. Idea and Methods[M]. Beijing: Science Press, 2017. []丁锋.系统辨识一多新息辨识理论与方法[M].北京:科学出版 社,2016. DING Feng. System Iden.tification-Multi-In.novation Identification Theory and Methods[M]. Beijing: Science Press, 2016. []丁锋.系统辨识算法复杂性、收敛性、计算效率研究[].控制与 决策,2016,31(10\" 1729-1741. DING Feng. Complexity, convergence and computational efficiency for system identification algorithms[J]. Control and Decision, 2016,31(10): 1729-1741. [6] DING F, CHEN T. Modeling and tdentification ior multirate systems [J]. Acta Automatica Sinica, 2005,31(1): 105-122.[]丁锋,杨慧中,纪志成.时变系统辨识方法及其收敛定理[]. 江南大学学报(自然科学版\" 2006,5(1): 115-126. DING Feng, YANG Huizhong, JI Zhicheng. Timevarying system identification methods and convergence theorems[J]. Journal oi Southern Yangtze University (Natural Science Edition) & 2006,(1) : 115-126. [8] DING F, LIU X P, LIU G. Gradient based and least-squares based iterative identification methods ior OE and OEMA sys- tems[J]. Digital Signal Processing, 2010,20(3) : 664-677.[]丁锋,徐玲,刘喜梅.信号建模(1):单频率信号[].青岛科技 大学学报(自然科学版),2017,38(1): 1-13. DING Feng, XU Ling, LIU Ximei. Signal modeling. Part A : Singlefrequency signals [J]. Journal oi Qingdao University oi Science and Technology (Natural Science Edition) , 2017,38(1) : 1-13. [10] 丁锋,徐玲,刘喜梅.信号建模(2):双频率信号[].青岛科 技大学学报(自然科学版),2017,38(2): 117. DING Feng, XU Ling, LIU Ximei. Signal modeling. Part B : Dual-frequency signals [J]. Journal oi Qingdao University oi Science and Technology (Natural Science Edition) , 2017,38(2) : 1-17.[11] 丁锋,徐玲,刘喜梅.信号建模3):多频率信号模型的递推参数 估计[].青岛科技大学学报(自然科学版),2017,38(3) : 1-12. DING Feng, XU Ling, LIU Ximei. Signal modeling. Part C : Recursive parameter estimation ior multi-frequency signal mod- els[J]. Journal oi Qingdao University oi Science and Technolo- gy(Natural Science Edition) , 2017,38(3) : 1-12. [12] 丁锋,徐玲,刘喜梅.信号建模():多频率信号模型的迭代参数 估计[].青岛科技大学学报(自然科学版),2017,38(4) : 1-11. DING Feng, XU Ling, LIU Ximei. Signal modeling. Part D : Iterative parameter estimation ior multi-frequency signal mod- els[J]. Journal oi Qingdao University oi Science and Technolo- gyCNatural Science Edition) , 2017,38(4) : 1-11. [13] 丁锋,徐玲,刘喜梅.信号建模():多频率信号模型的递阶参数 估计[].青岛科技大学学报(自然科学版),2017,38(5) : 1-15. DING Feng, XU Ling, LIU Ximei. Signal modeling. Part E : Hierarchical parameter estimation ior multi-frequency signal models[J]. Journal of Qingdao University of Science and Tech- nology(Natural Science Edition) , 2017,38(5) : 1-15.[14] XU L, DING F. Recursive least squares and multi-innovation stochastic gradient parameter estimation methods for signal modeling[J]. Circuits& Systems and Signal Processing, 2017,36(4) 1735-1753A [15] XU L. The parameter estimation algorithms based on the dy namical response measurement data[J]. Advances in Mechanical Engineering, 2017,9. doi : 10.1177/1687814017730003.[16] LI X L, DING F. Signal modeling using the gradient search [J]. Applied Mathematics Letters, 2013,6(8): 807-813.[17] ZHOU L C, LIX L, XU H G, et al Multi-innovation sto chastic gradient method for harmonic modelling of power sig- nals[J]. IET Signal Processing, 2014,10(7) : 732-742.[18] CAO Y N, LIU Z Q. Signal frequency and parameter estima tion for power systems using the hierarchical identification prin.ciple[J]. Mathematical and Computer Modelling, 2010, 52(5/6) 854-861. [19] XU L. The damping iterative parameter identification method for dynamical systems based on the sine signal measurement [J]. Signal Processing, 2016,120: 660-667. [20] LIU S Y, XU L, DING F. Iterative parameter estimation algo rithms for dual-frequency signal models [J]. Algorithms, 2017, 10(4): 1-13. doi : 10. 3390/al0040118. [21] XU L, CHEN L, XIONG W L. Parameter estimation and con troller design for dynamic systems form the step responses based on the Newton iteration.[J]. Nonlinear Dynamics, 2015,79 3) 2155-2163. [22] XU L. Application of the Newton iteration algorithm to the pa rameter estimation for dynamical systems[J]. Journal of Computational and Applied Mathematics, 2015 »288 : 33-43.[23] XU L, DING F. The parameter estimation algorithms for dy namical response signals based on the multi-innovation theory and the hierarchical principle [ J ]. IET Signal Processing,2017 11(2) 228-237. [4]徐玲.基于移动数据窗的传递函数多新息随机梯度辨识方法 [].控制与决策,2017,32(6): 1091-1096. XU Ling. Moving data window based multi-innovation stochastic gradient identification method for transfer functions [J]. Control and Decision, 2017,2(6) : 1091-1096. [25] CHEN L, LI JH, DING R. Identification of the second-order systems based on the step response [J]. Mathematical and Computer Modelling, 2011, 53(5/6): 1074-1083. [26] WANG D Q. Least squares-based recursive and iterative est-- mation for output error moving average systems using data fi-- tering[J]. IET Control theory and Applications, 2011, 5(14):1648-1657. [27] DING J L. Data filtering based recursive and iterative least squares algorithms for parameter estimation of multi-input output systems [ J ]. Algorithms, 2016, 9(3). doi : 10. 3390/ a9030049. [28] PAN J, JIANG X, WAN X K, et al A filtering based mult- innovation extended stochastic gradient algorithms for multivariable control systems [J]. International Journal of Control, Automation and Systems, 2017, 15(3): 1189-1197. (责任编辑姜丰辉& 因篇幅问题不能全部显示,请点此查看更多更全内容