数学基础

Linear Algebra

Chapter 1——行列式

一、逆序数

  1. 在一个排列中，如果一对数的前后位置与大小顺序相反，即前面的数大于后面的数，那么它们就称为一个逆序。一个排列中逆序的总数就称为这个排列的逆序数。
  2. 求解：依次查询排列中每个数字前比他大的数字个数，累加起来就是逆序数。

二、 行列式

  1. 行列式是一个值，不是一个矩阵。设矩阵为 A，则 det(A) 为或|A|行列式。

计算： D=\sum (-1)^n a_{1k_1}a_{2k_2}a_{3k_3}，k 是 k_1,k_2,…,k_n 排列的逆序数

  1. 性质：
    [1] D=D^T
    [2] 互换两行或两列，行列式变为原值的相反数
    [3] D = \begin{vmatrix} a_{11} & a_{12} & ... & a_{1j} + b_{1j} & ... & a_{1n} \\ a_{21} & a_{22} & ... & a_{2j} + b_{2j} & ... & a_{2n} \\ ... & ... & ... & ... & ... & ... \\ a_{n1} & a_{n2} & ... & a_{nj} + b_{nj} & ... & a_{nn} \\ \end{vmatrix} = \begin{vmatrix} a_{11} & a_{12} & ... & a_{1j} & ... & a_{1n} \\ a_{21} & a_{22} & ... & a_{2j} & ... & a_{2n} \\ ... & ... & ... & ... & ... & ... \\ a_{n1} & a_{n2} & ... & a_{nj} & ... & a_{nn} \\ \end{vmatrix} + \begin{vmatrix} a_{11} & a_{12} & ... & b_{1j} & ... & a_{1n} \\ a_{21} & a_{22} & ... & b_{2j} & ... & a_{2n} \\ ... & ... & ... & ... & ... & ... \\ a_{n1} & a_{n2} & ... & b_{nj} & ... & a_{nn} \\ \end{vmatrix}
    [4] 把行列式的某一列(行)的各元素乘以同一数然后加到另一列(行)对应的元素上去，行列式不变。

三、代数余子式

  1. 在 n 阶行列式中，划去元 a_{ij} 所在的第 i 行与第 j 列的元，剩下的元不改变原来的顺序所构成的 n-1 阶行列式称为元 a_{ij} 的余子式。数学表示上计作 M_{ij}。
  2. a_{ij} 的代数余子式： A_{ij} = (-1)^{i+j} M_{ij}。
  3. 行列式等于它任意一行(列)的各元素与其对应的代数式余子式乘积之和。
    D=a_{i1}A_{i1}+a_{i2}A_{i2}+......+a_{in}A_{in} (i=1,2,3,......n) = a_{1j}A_{1j}+a_{2j}A_{2j}+......+a_{nj}A_{nj} (j=1,2,3,......n)
  4. 范德蒙特行列式计算：
    D = \begin{vmatrix} 1 & 1 & ... & 1 \\ x_{1} & x_{2} & ... & x_{n} \\ x_{1}^2 & x_{2}^2 & ... & x_{n}^2 \\ ... & ... & ... & ... \\ x_{1}^n-1 & x_{2}^n-1 & ... & x_{n}^n-1 \\ \end{vmatrix} = \prod_{n \geq i \geq j \geq 1}^{} (x_i - x_j)

Chapter 2——矩阵

一、矩阵性质

  1. 满足分配律和结合律，不满足交换律
  2. AB=0，则：
    若 A、B 均为非零矩阵，则 A、B 的行列式均为 0
    若有一个是可逆矩阵，则另一个是 0 矩阵
  3. 转置矩阵性质：
  • (A+B)^T = A^T + B^T
  • (AB)^T = B^TA^T
  1. 对称矩阵：A^T = A
  2. 对 n 阶方阵 A 的行列式：
    |\lambda A|=\lambda^nA |AB|=|A||B| |AB|≠|BA|
  3. 数量矩阵：对角矩阵的对角线上的元相等

二、 矩阵的秩 R(A)

  1. k 阶子式：在一个矩阵或行列式中取 k 行 k 列,交叉处的 k^2 个元素按原顺序构成的行列式
  2. 最高阶非零子式：矩阵 A 有一个不等于 0 的 r 阶子式 D，且所有 r+1 阶子式均为 0，则 D 是 A 的最高阶非零子式
  3. 矩阵的秩：矩阵最高阶非零子式为 r 阶子式，r 为该矩阵的秩
  4. n 阶方阵等价的定义：
    满秩矩阵==可逆矩阵==非奇异矩阵==标准型是 E==可表示为有限==个初等方阵乘积==行/列向量组线性无关==特征值全不为 0==行列式不为 0
    降秩矩阵==不可逆矩阵==奇异矩阵==行/列向量组线性相关==特征值有 0==行列式为 0
  5. 矩阵的秩的大小关系
    R(AB)<=min(R(A),R(B))<=max(R(A),R(B))<=R(A|B)<=R(A+B) <= R(A)+R(B) 其中，A|B 是 A 和 B 横向拼接

三、 矩阵变换

  1. 矩阵的初等变换
  • 某一行（列），乘以一个非零倍数。
  • 某一行（列），乘以一个非零倍数，加到另一行（列）。
  • 某两行（列），互换。

  1. 矩阵等价
    A 与 B 等价（A∽B）：A 经过有限次初等变换变为 B。R(A)=R(B),|A|不一定等于|B|。

  2. 最简形矩阵：矩阵满足（1）是阶梯形矩阵；（2）所有的非零行的第一个非零元素均为 1，且其所在列中的其他元素都是零。
    任何一个非零矩阵总可以经过有限次初等变换为阶梯形矩阵和最简阶梯形矩阵，非零行行数为矩阵的秩。

  3. 标准形矩阵：矩阵的左上角是单位矩阵，其余三部分可以没有或者是 0 变换方法：先变为行最简形再变为列最简形

  4. 逆矩阵：AB=BA=E，A 和 B 互为逆矩阵

  5. 逆矩阵性质：({\lambda}A)^{-1} = \frac {1}{\lambda} *A^{-1} (AB)^{-1} = B^{-1} A^{-1} (A^{-1})^T = (A^T)^{-1} |A^{-1}| = |A|^{-1}

  6. 伴随矩阵 A^*：A 中各元的代数余子式转置后组成的矩阵
    性质：
    i. A^* =|A|A^{-1} (基本性质)
    ii. AA^*=A^*A=|A|E
    iii. |A^*|=|A|^{n−1}
    iv. (AT)^*=(A^*)T (A−1)^*=(A^*)−1
    v. (AB)^*=B^*A^*
    vi. (A^*)^*=|A|n−2A
    vii. R(A)=n,则R(A^*)=n
    viii. R(A)=n-1,则 R(A^*)=1
    ix. R(A)<n-1,则 R(A^*)=0

  7. 正交矩阵：AA^T=A^TA=E
    正交矩阵 A 的性质：
    i. A^*正交
    ii. |A|=±1
    iii. A 可逆且 A^{-1}=A^T

  8. 求解矩阵（左行右列）
    i. AX=B: (A B) \rightarrow (E X)
    ii. XA=B: (A B)^T \rightarrow (E X)^T

  9. 增广矩阵：系数矩阵 A | 等号右侧常数项 B
    R(A)<R(A|B)：方程组无解

Chapter 3——线性方程组

一、齐次线性方程组

  1. 定义：Ax=0 向量，A 是系数矩阵，x 是（列）解向量
  2. 解的性质（方程组有 n 个变量）：
    i. R(A)<n：存在非零解
    ii. R(A)=n：只有零解
  3. 基础解系：齐次线性方程组的 k 个解向量满足向量组线性无关，解空间中其他向量都可以用这 k 个向量线性表示，则这 k 个解向量构成基础解系。

二、 非齐次线性方程组

  1. 定义：Ax=b（非零向量）
  2. 相容：方程组有解，即：系数矩阵和增广矩阵的秩相等；否则不相容
  3. 相容方程组的解的性质（方程组有 n 个变量）：
    i. R(A)<n：存在无穷多解
    ii. R(A)=n：唯一解

Chapter 4——向量空间

一、 向量（列向量）

  1. 向量 a,b 的内积(a,b)=a·b=a_1b_1+a_2b_2+……+a_nb_n = |a| |b| \cos \theta 是数值。
    向量内积为 0 则两向量正交
  2. 向量 a 的模||a||= \sqrt {a_1+a_2...+a_n} (a 各方向分量的平方和开根)
  3. 柯西施瓦茨不等式：(a,b)^2 \leq (a,a)(b,b)

二、 线性相关

  1. 对于 m 个 n 维向量 a_1,a_2,…,a_m，若存在一组不全为零的常数 b_1,b_2,…b_m，使得 a_1b_1+a_2b_2+…+a_nb_n=零向量，则这组向量线性相关，否则线性无关。
  2. 上述表达于向量组中至少一个向量可以用其余的向量线性表示。
  3. 最大/极大线性无关组和秩：向量组 T 中选取其中 r 个向量，若这些向量线性无关而加上其他任一向量都线性相关，则这 r 个向量是 T 的一个最大线性无关组，r 是 T 的秩。

三、 正交向量组

  1. 正交向量组：不含 0 向量的向量组中任两个向量正交
    标准正交向量组：向量均为单位向量的正交向量组
    正交向量组线性无关
  2. 方阵 A 是正交矩阵==A 的行/列向量组是标准正交向量组
  3. 施密特标准正交化
  • 作用：将线性无关的向量组变为其等价的标准正交向量组
  • 步骤：
    i. 正交化:
    \beta_1 = \alpha_1
    \beta_2 = \alpha_2 - \frac{\langle \alpha_1, \beta_1\rangle}{\langle\beta_1, \beta_1\rangle}\beta_1
    ...
    \beta_m = \alpha_m - \frac{\langle \alpha_m, \beta_1\rangle}{\langle \beta_1, \beta_1\rangle}\beta_1 - \frac{\langle \alpha_m, \beta_2\rangle}{\langle \beta_2, \beta_2\rangle}\beta_2 - ... - \frac{\langle \alpha_m, \beta_m-1\rangle}{\langle \beta_m-1, \beta_m-1\rangle}\beta_m-1
    ii. 标准化
    e_i = \frac{\beta_i}{||\beta_i||}(i = 1, 2, ..., m)

四、 向量空间

  1. 定义：n 维向量构成的非空集合，定义的加法和数乘满足封闭性，且满足八条定律（如交换律、结合律、分配率等）
  2. 向量空间的基和维数：
    设V是一向量空间，a_1, a_2, ..., a_r \in V 且满足：
    i. a_1, a_2, ..., a_r 线性无关；
    ii. \forall \beta \in V, \beta 可由 a_1, a_2, ..., a_r 线性表出
    则称向量组a_1, a_2, ..., a_r为向量空间V的一组基底，r称为向量空间V的维数，记为dim V = r。
  3. 过渡矩阵：可逆，右乘过渡矩阵可以进行基变换。

Chapter 5——线性变换

一、 特征值

  1. 对方阵 A 满足：Ax=\lambda x 或 (A-\lambda E)x=0 向量，其中 x 为非零向量，则：
    x 为特征向量，\lambda为特征值。非方阵没有特征值和特征向量。
  2. 特征值性质
    i. 特征值个数等于方阵 A 的阶数，但可能有重根或复数根
    ii. AB 的特征值与 BA 相同，A 和其转置矩阵的特征值相同，但特征矩阵不一定相同
    iii.一个特征值对应无穷多的特征向量，但一个特征向量只对应一个特征值
    iv. 所有特征值（包括重复的）的乘积=|A|
    v. 所有特征值（包括重复的）的和=方阵 A 对角线元素和（矩阵的迹）
    vi. 若\lambda是可逆方阵 A 的特征值，则 \frac{1}{\lambda}是 A^{-1}的特征值，特征向量不变
    vii. 若\lambda是方阵 A 的特征值，则\lambda k 是 Ak的特征值（k 为正整数），特征向量不变
    viii. 若特征值各不相等，则对应的特征向量线性无关
  3. 特征值和特征向量计算
    i. |A-\lambda E|=0（特征多项式），解得对应的所有\lambda即所有的特征值
    ii. 回代各\lambda进(A-\lambda E)x=0，解特征向量 x
  4. 特征值和特征向量的意义
    i. 如果矩阵对某一个向量或某些向量只发生伸缩变换，不对这些向量产生旋转的效果，那么这些向量就称为这个矩阵的特征向量，伸缩的比例就是特征值。
    ii. 求特征向量，就是把矩阵 A 所代表的空间进行正交分解，使得 A 的向量集合可以表示为每个向量 a 在各个特征向量上的投影长度。通常求特征值和特征向量即为求出这个矩阵能使哪些向量只发生拉伸，而方向不发生变化，观察其发生拉伸的程度。这样做的意义在于，看清一个矩阵在哪些方面能产生最大的分散度，减少重叠，意味着更多的信息被保留下来。（PCA）

二、 相似矩阵

  1. 设 A，B 为 n 阶矩阵，如果有 n 阶可逆矩阵 P 存在，使得 P^{-1}AP=B，则称矩阵 A 与 B相似，记为 A~B，P 为把 A 变成 B 的相似变换矩阵。
  2. 相似矩阵的性质：
    i. 特征值相同，行列式相同
    ii. 相似矩阵是等价矩阵的真子集
    iii. N 个特征值互不相等，则 A 与对角矩阵相似；
    有相等的特征值，A 不一定能相似对角化

三、 矩阵的相似对角化

  1. 目的：相似对角化后，对角线的值就是矩阵的 A 的 n 个特征值
  2. 只有实对称矩阵能正交相似对角化：
    设 A 为 n 阶实对称矩阵，则必有正交矩阵 P，使 P^{-1}AP=P^TAP=\Lambda，其中\Lambda 是以 A的 n 个特征值为对角元的对角矩阵。
  3. 求实对称矩阵 A 的正交相似对角化矩阵 B 步骤：
    i. 求 A 的 n 个（全部）特征值
    ii. 对每个特征值求解其特征向量并将其正交化、标准化
    iii. 这 N 个列向量按序拼接成对应的变换矩阵 P，通过 P-1
    AP 求得正交对角矩阵 B
    四、 n 阶方阵的等价叙述：
    n 个特征值互不相等(不一定可逆) \rightarrow n 个特征向量线性无关==矩阵 A 能相似对角化

Chapter 6——二次型及其标准形

Calculus

拉格朗日乘数

  1. 目的：寻找多元函数在其变量受到一个或多个条件的约束时的局部极值的方法。（最优化问题）
  2. 方法：将一个有n个变量与k个约束条件的最优化问题转换为一个解有n + k个变量的方程组的解的问题。这种方法中引入了一个或一组新的未知数，即拉格朗日乘数\lambda，这时只需要求下列拉格朗日函数的局部极值：\mathcal {L}(x,y,\lambda )=f(x,y)-\lambda \cdot g(x,y)
    i. 记 F\left(x,y,\lambda \right)=f\left(x,y\right)+\lambda \left(g\left(x,y\right)-c\right) 对其求导并使导数F\left(x,y,\lambda \right)'为 0，i.e., \nabla f\left(x,y\right)=-\lambda \nabla \left(g\left(x,y\right)-c\right) \Leftrightarrow \nabla {\Big [}f\left(x,y\right)+\lambda \left(g\left(x,y\right)-c\right){\Big ]}={\boldsymbol {0}}
    ii. 求出\lambda 的值，将其套入F\left(x,y,\lambda \right)=f\left(x,y\right)+\lambda \left(g\left(x,y\right)-c\right) ，易求在无约束条件下的极值和对应的极值点。
    iii. 新方程 F(x,y,\lambda ) 在达到极值时与 f(x,y) 相等。因为F(x,y,\lambda )达到极值时 \nabla F(x,y,\lambda )=0，而 {\frac {\partial F}{\partial \lambda }}=g\left(x,y\right)-c，也就是说 g(x,y)-c 等于零。
最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 219,039评论 6赞 508
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 93,426评论 3赞 395
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 165,417评论 0赞 356
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 58,868评论 1赞 295
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 67,892评论 6赞 392
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 51,692评论 1赞 305
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 40,416评论 3赞 419
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 39,326评论 0赞 276
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 45,782评论 1赞 316
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,957评论 3赞 337
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,102评论 1赞 350
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 35,790评论 5赞 346
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 41,442评论 3赞 331
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,996评论 0赞 22
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,113评论 1赞 272
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 48,332评论 3赞 373
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 45,044评论 2赞 355