为了将单变量线性回归进行推广，提出了正规方程组的方法，线性代数很擅长解决多变量的问题，用相应的向量和矩阵表示相关的算法即可。
矩阵加法
两个相同维数矩阵的加法可以通过对应元素的相加得到。
矩阵乘法
定义 设矩阵 A=(aij)m×n, B=(bij)s×n ，那么 矩阵A 与 矩阵B 的乘积是一个 m×n 矩阵C=(cij)m×n ，其中 cij=ai1b1j+ai2b2j+...+aisbsj=∑sk=1aikbkj
只有当 矩阵A 的 列数 等于 矩阵B 的 行数 时，两个矩阵才能相乘。
转置矩阵
定义：把矩阵 A 的 行列互换 所得到的矩阵称为 原矩阵 的 转置矩阵，以 AT 表示。
即 A=(aij)m×n ， AT=(aji)n×m
矩阵求逆
定义：一个n阶 方阵A 称为可逆的，或非奇异的，如果存在一个n阶 方阵B，使得 A×B=B×A=E 并称B是A的一个 逆矩阵。不可逆的矩阵称为 奇异矩阵。A 的逆矩阵记作 A−1。且 A×A−1 得到的矩阵为 对角线元素全为1，其他元素全为0。
用于求解多变量问题的正规方程为:
图片发自简书App
可以求解多个θ系数，完成多变量线性回归9问题的简便求解。
