线性回归分析

第一节介绍了依赖于一个数量因子x的总体族{Y，x∈T}的平均数EYx的线性模拟：

x=β+βx (48．4。1)

x-y平面上的直线(48．4．1)式称为总体族的一元回归直线。必须注意到(48。4．1)式与(48．3．1)式在概念上的差别，它们分别称为“因子回归”与“相关回归”。

一元(因子)回归的调查和实验方案是{N；x，k=1—N；n}，表示数量因子x取N个值，这N个值是x，k=1—N(不妨设为从小到大的次序排列)，对应于每一个xk的总体Y的样本观测值是n个同质数据y，i=1—n。本章只研究n=1的情形，借用二元总体的样本观测值的格式：=()。

β、β和一元回归直线(48．4．1)式的最小二乘估计跟(48。3．1)式在形式上一样：

=b+bx，其中：b=-X，b=(48．4．1)

直线(48。4．1)2式通过点()，并且一般地只适用于实验方案中数量因子的取值范围x∈〔x，x〕。

定义下列剩余平方和与回归平方和：

由以上二式可知：

产生差异平方和l的原因，除了随机因素而外，主要是由于N个总体Y(n=1的样本)的观测值y，k=1—N分别在因子x的N个取值x，k=1—N条件下产生。l是N个非同质数据y，k=1—N与其平均的差异平方和，它在被N个yk的最小二乘拟合值分别取代以后减小到SS余。由于分别k=1—N，观测值y与其最小二乘拟合值=b+bx都是由x产生的，从而在构成SS余的差异y—中抵销了混杂在y—中的因子x的N个取值的影响(注意，还保留有只在n>1情形才能进行分析的模式误差，即失拟)。l减小到SS余的减小部分SS回表示一元回归直线(48．4．1)式对于差异平方和的减小所作出的“贡献”。由此，对于每一x∈〔x，x〕，分别用x作

为的估计值，优于对所有x∈〔x，x〕一律用常数作为的估计值。

需要定义下列方差以及F：

如果F>F(1，N-2)，则推断β0，并称Y与数量因子x线性相关显著。仅对这样的EYx用(48．4．1)式作为它的线性模拟才是有意义的，并且可以认为EY=。只在这种情形才有必要求出(48．4．1)式作为线性模拟(48．4．1)式的最小二乘估计。F(f，f)——f与f分别称为分子自由度和分母自由度——可以查“F检验的临界值(F)表”得到。回归分析的步骤如表48—2所示。

表48—2

如果使用SHARP-5002计算器，则：

上述的线性回归分析以总体方差DY≡σ，即不随x∈T改变为前提。下面写出总体标准差σ与β、β、EY的1-α置信区间以及总体Y的1-α取值区间：

X(N-2)和(N-2)可以查“X分布的上侧分位数()表”得到；t(N-2)可以查“t分布的双侧分位数(t)表”得到，N-2是自由度。(18．|．8)式和(48．4．9)式在线性模拟的最小二乘估计=b+bx两侧随x∈〔x，x〕分别形成EY的1-α置信区域和总体族Y的1-α取值区域，它们在距离X越远的x处(即|x-X|越大)开口越大。

对于依赖于m个数量因子的总体族{=(x，x…，xm)∈T}，m个数量因子的取值有如下两种情况：(1)取值之间有依赖关系，或者人们不能控制只能记录。这种情况类似于m+1元总体(m个随机自变量，一个随机因变量)；(2)取值之间没有关系，并且可以由人们对其进行搭配(全面搭配或者正交搭配，后一种称为正交回归设计)。本章只研究第(1)种情况。

把样本观测值与数量因子的取值配合，借用m+1元总体的样本观测值的格式。