一元线性回归模型有哪些基本假定 一元线性回归模型


一元线性回归模型有哪些基本假定 一元线性回归模型


一、相关关系
散点图的绘制与解读、相关系数的概念与特征
用于衡量两类现象在发展变化的方向与大小方面存在一定的关联(不包括因果和共变关系) 。
1.正线性相关
例如销售额中涵盖了销售利润和各类成本等,从数据大致可以看出,销售利润随着销售额的增长而增长,由于各类不确 定因素,数据点基本落在直线周围,我们称之为正线性相关 。
2.负线性相关
例如通常情况下,某地区的犯罪率越高,则该地区的房价越低,但由于供需环境等其他不确定因素,数据点基本落在直 线周围,我们称之为负线性相关 。
3.完全线性相关
虽然所有点都在直线上,但是我们不能说两个变量是函数关系,这是因为我们看到的是样本,并且我们假设两个变量是 随机变量,而我们需要推导的是两个总体的关系 。
4.非线性相关
例如虽然网站的点击量随着网站的广告投入的增加而增加,但其数据点分布在对数线周围,呈现出对数相关性 。
估计标准误差与相关系数的关系
一元线性回归中,对于同一个问题,估计标准误差就意味着样本点到回归线的距离越近,那么两个变量的 线性相关性就越强,相关系数越大 。
二、相关系数
1.相关系数
一般情况下,如果不做特殊说明,指的就是线性相关 。如果相关系数是根据变量的样本数据计算的,即为了推断总体,那么则称为样本相关系数(虽然有的时候在部分资料里 并不严格说明),记为 r(有的教材里也称为Pearson相关系数)
虽然没有严格的规定,但是我们往往习惯按照下面的方式对相关性强度进行分级:
由于 r 只是样本线性相关系数,无论其数值等于多少,我们需要推断的始终是总体的相关性如何,这时候我们就需要运 用显著性检验的知识了 。我们运用R.A.Fisher提出的 t 检验方法来检验两个变量总体之间是否存在线性相关关系 。
原假设:H0 : ? = 0,两变量间无直线相关关系 检验统计量:
适用条件:数据间相互独立,包括观测间相互独立与变量间相互独立;变量为连续变量(积差相关的条件);两变量间 的关系是线性的 。
2.散点图提供如下特征:
(1)散点的密集程度,反应相关性的大小;
(2)散点是否具有线性关系,或线性趋势,还是其 他形式,如果是其他形式是否可以转换成线性 形式;
(3)线性关系之外是否存在异常值及其存在与线性 趋势的哪个方向;
(4)数据是否存在稀疏问题 。
3.一元线性回归方程回归分析的概念和特点
回归分析能解决什么问题?
探索影响因变量的可能因素;
利用回归模型进行预测 。
相关与回归间的关系?
相关分析侧重反映散点的疏密程度 。
回归分析侧重反映散点的趋势程度 。
三、最小二乘法
1.线性回归的基本过程
四、评价与检验
第一步:总平方和分解
第二步:计算判定系数
第三步:残差标准误
由于 SSE 是一个求和表达式 。样本越多,SSE 的取值就往往会越大,因此,SSE 并不适合相对 客观的反映估计值与样本值的偏离程度,我们需要将 SSE 处理成相对值 。于是我们令
,其中 n-2 是自由度 。这个公式可以粗略的理解为,通过除以自由度,得到残差平 方的均值;再开根号则可以将方差转化成标准差,也成为估计标准误差 。
第四步:线性关系检验
线性回归模型的假设
五、例题精讲

推荐阅读