第28课 正定矩阵和最小值

第一目标,如何判断一个矩阵是否是正定的


x^TAx>0得出几何上的解释,椭圆和正定性有关,双曲线与正定性无关,当极小存在时,怎样找出极小值?

A是对称矩阵A=\begin{bmatrix}a&b\\c&d\end{bmatrix}

  • \lambda_1>0,\lambda_2>0;(特征值判定)
  • a>0,ac-b^2>0;(行列式判定,所有行列式)
  • a>0,\frac{ac-b^2}{a}>0;(主元,所有主元)
  • x^TAx>0

例:
\begin{bmatrix}2&6\\6&b\end{bmatrix}
b=19时,为正定的

b=18时,为不完全正定,称之为半正定矩阵,\lambda_1=0,\lambda_2=20,由于存在等于0,所以定义为半正定
\begin{align} \underbrace{\begin{bmatrix}x_1&x_2\end{bmatrix}}_{x^T} \underbrace{\begin{bmatrix}2&6\\6&18\end{bmatrix}}_{A} \underbrace{\begin{bmatrix}x_1\\x_2\end{bmatrix}}_{x}&= \begin{bmatrix}x_1&x_2\end{bmatrix} \begin{bmatrix}2x_1+6x_2\\6x_1+18x_2\end{bmatrix}\\ &=x_1\times(2x_1+6x_2)+x_2\times(6x_1+18x_2)\\ &=2x_1^2+6x_1x_2+6x_1x_2+18x_2^2\\ &= \underbrace{2}_{a}x_1^2+ \underbrace{2\times6}_{2b}x_1x_2+ \underbrace{18}_{c}x_2^2 \end{align}\\ \to ax^2+2bxy+cy^2(二次形,不再是线性的)

Ax是线性的,引入x^T,升到二阶,纯二次形没有线性部分,它是否大于0?
f(x,y) = x^TAx=ax^2+2bxy+cy^2

\begin{bmatrix}2&6\\6&7\end{bmatrix}\\ \begin{align} f(x_1,x_2)&=2x_1^2+12x_1x_2+7x_2^2\\ &=2(x_1+3x_2)^2-11x_2^2 \end{align}\\ ax^2\geq 0;cy^2\geq0;ax^2+cy^2要足够大于2bxy

\begin{bmatrix}2&6\\6&20\end{bmatrix}\\ \begin{align} f(x,y)&=2x^2+12xy+20y^2\\ &=\underbrace{2(x+3y)^2}_{\geq 0}+\underbrace{2y^2}_{\geq 0} \end{align}\\

一阶导的最小为0,不足以说明是极小值二阶导控制一切,矩阵告诉我们的是二阶导数。在微积分中判断极小值的首要条件是导数必需等于0,此时并不能知道是极大值还是极小值,为了确定是极小值还得看来看二阶导数二阶导数必须为,当通过最小点后,斜率必须是变大的,二阶导数这里变成二阶导数矩阵的正定性,如此来判断极小值

在微积分开始部分,极小值与二阶导数为正相关联,一阶导数为0。

在线性代数中f(x_1,x_2,\dots,x_n)存在极小值的条件是当二阶导数矩阵是正定的,(从一个数二阶导数变成矩阵为正定矩阵)。

如果矩阵为正定时,图形结果的上部为椭圆截面,令f(x_1,x_2)=1,高度为1的横切面,如果在鞍点情况下切割,就得到一个双曲线
\underbrace{\begin{bmatrix}2&6\\6&20\end{bmatrix}}_{A}= \underbrace{\begin{bmatrix}1&0\\3&1\end{bmatrix}}_{L} \underbrace{\begin{bmatrix}2&6\\0&2\end{bmatrix}}_{U}\\ f(x,y)=2x^2+12xy+20y^2 = \underbrace{\overbrace{2}^{U第一个主元}(x+3y)^2+\overbrace{2}^{U的第二个主元}y^2}_{配方式子}
正主元,就是平方项外边的系数,因此正主元平方和一切为正图像向上原点极小点,一切都联系在一起

为了存在极小值\underbrace{f_{xx}}_{f在x方向上的二阶导数},\underbrace{f_{yy}}_{f在y方向上的二阶导数},必须为正,还须足够大来抵消混合导数的影响
A=\begin{bmatrix}f_{xx}&f_{xy}\\f_{yx}&f_{yy}\end{bmatrix},A必须是正定矩阵\\ 行列式条件(f_{xx}f_{yy}>f_{xy}f_{yx})

3\times3

首先是否为正定矩阵,

其次和它相关联的函数是多少?

x^TAx是多少?
A=\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-1&2\end{bmatrix}

首先求行列式:
A_{1\times1}=2,|A_{2\times2}|=3|A_{3\times3}|=4\\ x^TAx=\\A_{11}x_1^2 + A_{22}x_2^2 + A_{33}x_3^2 + A_{12}x_1x_2 + A_{21}x_1x_2 + A_{23}x_2x_3 + A_{32}x_2x_3 + A_{13}x_1x_3 + A_{31}x_1x_3 \\ =2x_1^2+2x_2^2+2x_3^2-2x_1x_2-2x_2x_3 >0
特征向量说明主轴方向;

特征值说明轴的长度或半长或特征值例数

Q\Lambda Q^T特征值理论中最重要的分解,由于对称阵的对角化可用转置代替逆

条件:

  • 各级行列式为2,3,4

  • 主元2,3/2,4/3

  • 主元的乘积等于相应的行列式(二级行列式等于2\times \frac{3}{2}=3,三级行列式等于2\times\frac{3}{2}\times\frac{4}{3}=4)

  • 当前行列式等于前级主元的乘积

  • 特征值2-\sqrt{2},2,2+\sqrt{2}

    • 用迹检查3个特征值是否正确,迹=2+2+2=62-\sqrt{2}+2+2+\sqrt{2}=6
    • 用行列式检查(2-\sqrt{2})\times2\times(2+\sqrt{2})=4
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,393评论 5 467
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,790评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,391评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,703评论 1 270
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,613评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,003评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,507评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,158评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,300评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,256评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,274评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,984评论 3 316
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,569评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,662评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,899评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,268评论 2 345
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,840评论 2 339

推荐阅读更多精彩内容