共轭方向法

更新时间:2022-09-23 09:13

共轭方向法(conjugate direction method)依次沿共轭方向寻求无约束最优化问题极小点的一类方法。

共轭

群中一种重要的等价关系.设S,T是群G的两个非空子集,H是G的子群,若存在H中元素g使得T=gSg=S,则称S和T关于H共轭,其中T=gSg={gsg|s∈S}称为S按g的变形.若S为G的子群,T称为S关于H的共轭子群;若S={s}为一个元的集合,则称t=gsg为s关于H的共轭元.当H=G时,通常就不加“关于G”这个修饰词了.共轭关系是一种等价关系.设S是群G的一个子集,H是G的一个子群,与S关于H共轭的所有子集组成的集合称为S关于H的共轭类.当S={s}为一个元素的集合,s关于G的共轭类是元素的集合,就简称G(的元素)的一个共轭类.

共轭方向

两向量间的一种特殊关系.设A为n×n对称正定矩阵,向量p1,p2∈R.若满足条件(p1)Ap2=0,则称p1和p2关于A是共轭方向,或称p1和p2关于A共轭.一般地,对于非零向量组p1,p2,…,pn∈R,若满足条件:(pi)Apj=0(i≠j,i,j=1,2,…,n),则称该向量组关于A共轭。

设A是n×n对称正定矩阵,若有两个n维向量P和Q,满足

PAQ=0

则称向量P和Q是关于A共轭的,或称P、Q是A共轭方向。

定义

以一组共轭方向作为搜索方向来求解无约束非线性规划问题的一类下降算法。是在研究寻求具有对称正定矩阵Q的n元二次函数

f(x)=1/2xQ x+bx+c

最优解的基础上提出的一类梯度型算法,包含共轭梯度法和变尺度法。根据共轭方向的性质,依次沿着对Q共轭的一组方向作一维搜索,则可保证在至多n步内获得二次函数的极小点。共轭方向法在处理非二次目标函数时也相当有效,具有超线性的收敛速度,在一定程度上克服了最速下降法的锯齿形现象,同时又避免了牛顿法所涉及的海色(Hesse)矩阵的计算和求逆问题。对于非二次函数,n步搜索并不能获得极小点,需采用重开始策略,即在每进行n次一维搜索之后,若还未获得极小点,则以负梯度方向作为初始方向重新构造共轭方向,继续搜索。

数学表达

对于n维正定二次函数f,选取关于其系数矩阵是共轭的向量组p0,p1,…,pn-1,从任一点x0∈Rn出发,相继以p0,p1,…,pn-1为搜索方向,迭代公式为:

经n次一维搜索,便可找到xn为f(x)的极小点.共轭方向法是鲍威尔(Powell,M.J.D.)于1964年首先提出的.

免责声明
隐私政策
用户协议
目录 22
0{{catalogNumber[index]}}. {{item.title}}
{{item.title}}