参考：
内容摘要：
1 Vectors and Matrices Recap
1.1 向量
范数的基本性质：
几种常见的范数定义
l1范数、无穷范数、p范数
投影（Projection）
投影是两个向量的内积（inner product，dot product）。若B是单位向量，则 A . B表示A在B方向的长度
1.2 矩阵
一些特殊的矩阵
对称阵，反对称阵
迹（Trace）
表示矩阵的对角元素的和
转移矩阵（Transformation matrix）
给定原向量 p，顺时针旋转 theta角，那么怎么计算新向量 p'
旋转矩阵有一些比较好的性质
齐次坐标系
通常来说利用转移矩阵能够完成向量的缩小、增大、旋转等，但是不能加常数（也就是平移）
，这一点可以利用齐次坐标系完成
通过上面的齐次坐标系的方法，可以很方便的用转移矩阵来表示平移、旋转、放缩等操作
平移
放缩
同时通过转移矩阵连乘的方式能够同时表示放缩，平移，旋转等操作。
需要注意的是矩阵乘法！也就是说对于一个向量，先放缩再平移与先平移再放缩不一样！
2.秩Rank
线性相关：假如有 n个向量 V1,v2,....,vn，其中存在一个向量能够被其余向量线性表示，则这个向量与其余向量线性相关
线性独立：当任意向量都不能被其他向量表示时，叫这些向量线性独立
在转移矩阵中，转移矩阵的秩能够知道转移后输出的维度
假如转移矩阵的秩为1，则会将所有点映射到同一条线上
满秩矩阵是指 m X m 矩阵的秩为 m，其余情况会使得矩阵非奇异
3.特征向量与特征值（Eigenvector and Eigenvalue）
若有向量 x，以及转移矩阵A,假如这个转移矩阵不会使得这个向量改变方向，只是缩放了这个矩阵的大小，则这个向量x叫做矩阵A的特征向量，缩放的尺度叫做特征值
求取特征值和特征向量
一些性质：
Det（A）=特征值的连乘，也就是全部特征值非0这个矩阵才可逆
4.对角化（Diagonalization）
若矩阵A(N X N)的特征值各不相同，则A可以对角化
5.矩阵微分
梯度（gradient）
hessian 矩阵
