统计挖掘那些事那些情-回归分析

作者：浩彬老撕

实际上，无论是日常的统计学习还是挖掘学习中，回归分析都可以算是大家最早接触，也是整个体系当中相当重要的一个内容了，所以咱们这期就从回归分析说起吧。

一般来说，借助回归分析，我们希望可以量化描述预测变量与响应变量的关系，同时帮助我们进行预测。其他的例子还有：广告的投入与市场销售的关系，受教育程度与收入的关系等。而在整个回归体系当中，最基础的莫过于普通最小二乘回归(Ordinary Least Square，简称OLS)

实际上，对于回归分析来说，我们需要有两件事情需要确认：(1)参数估计;(2)假设检验。

实际上，上述的回归分析损失函数是一个凸函数;在机器学习中，我们一般会构造关于所求变量的凸函数，这更容易帮助我们取得最优解。

从上面的式子中，我们可以得知，在其他因素固定的情况下，身高每增加1cm，体重就平均增加2.085kg

接下来，我们简单谈谈利用SPSS Modeler的实现过程

从上述分析结果中，我们可以看到系数检验表(Coefficients)，无论是常数项还是身高的系数项对应的P值都是小于0.05，认为系数显著，可以写出回归方程：体重=2.085 ∗ 身高 − 290.4。另外我们通过ModelSummary可以看到，该回归方程的相关系数r=0.997，说明体重与身高有非常强的线性相关。至于中间的ANOVA表格，则是F检验的结果，我们留待下节介绍。

End.