监督学习：

  分类与回归

      线性回归：

          线性模型：最小二乘法，岭回归，lasso回归  解决线性问题

          参考链接：https://zhuanlan.zhihu.com/p/88698511

      梯度下降  

          普通梯度下降 随机梯度下降 

          随机梯度下降在运行速度及结果正确性上都优于普通梯度下降，可以用作分类器SGDClassifier和回归器SGDRegressor。

      支持向量机 

              寻找最优超平面

              软间隔（允许训练集上存在错误数据，防止出现过度拟合）

              线性不可分问题 增加特性维度，使用拉格朗日乘子法实现对超平面求解问题的升维

              核函数 线性核 多项式核 高斯京香基核 Sigmoid核

    朴素贝叶斯分类

            一种简单的分类算法，基于概率统计模型，要求多维特性相互独立

            高斯朴素贝叶斯 多项式朴素贝叶斯 伯努利朴素贝叶斯