统计学出身做机器学习有何优势？
本人是普通学校应用数学专业的毕业生，偏统计方向，在校时学习了概率论，回归分析，随机过程，时间序列等等东西。毕业后为了求生，又看了一些spss软件的书籍，从中又学了一些其他的假设检验方法。毕业时毕业论文是一个聚类的东西，让我了解到机器学习这个东西。开始傻傻的以为机器学习与统计学中的回归是一回事，还用统计中的模型来做预测（逐步回归，回归诊断，主成分等等提高p值方式），即使改进了模型效果也不算好。后来分辨出两者一个是预测用的（统计学时不会讲梯度下降），一个是推断用的，而且做预测一般也不用回归模型了。在学习机器学习时发现其中对假设检验等统计方法用的很少，似乎只关注预测的效果好坏，所以想问问以前学的统计基础在机器学习上能发挥哪些作用?
我已知的两个作用第一个就是比较两个学习器的好坏可以用，第二个是看了一篇文章说对抗网络中的判别器也有用到。如果以后用的少，我会感到很心痛。55555555
19世纪初，勒让德（Legendre）和高斯（Gauss）发表了有关最小二乘法的文章。

1936年，费舍尔（Fisher）提出线性判别分析。

20世纪40年代，许多学者又提出了替代的方法-逻辑斯谛（logistic）回归。

在20世纪70年代初，内尔德（Nelder）和韦德伯恩（Wedderburn）提出了一个新概念-广义线性模型（generalized linearmodel），囊括了统计学习方法中的线性回归和logistic回归在内的线性模型。

20世纪80年代，计算条件具备，非线性模型不再受计算的困扰。

20世纪80年代中期，布莱曼（Breiman）、弗里德曼（Friedman）、奥申（Olshen）和斯通（Stong），提出了分类回归树，率先示范了一个实用方法在具体实施中的威力，其中包括了用于模型选择的交差验证法。

1986年，哈斯贴（Hastie）和提布施瓦尼（Tibshirani）提出了一个被称为广义可加模型的概念，将一类非线性模型扩展至广义线性模型族中。