如何计算线性回归方程系数的经验公式

如题所述

经验回归方程公式介绍如下:

回归方程公式:b=(x1y1+x2y2+...xnyn-nXY)/(x1+x2+xn-nX)。

计算b:b=分子/分母。用最小二乘法估计参数b,设服从正态分布,分别求对a、b的偏导数并令它们等于零,先求x,y的平均值X,Y,再用公式代入求解,后把x,y的平均数X,Y代入a=Y-bX,求出a并代入总的公式y=bx+a得到线性回归方程,(X为xi的平均数,Y为yi的平均数)。

线性回归方程公式推导过程

假设线性回归方程为: y=ax+b (1),

a,b为回归系数,要用观测数据(x1,x2,...,xn和y1,y2,...,yn)确定之。

为此构造 Q(a,b)=Σ(i=1->n)[yi-(axi+b)]^2 (2),

使Q(a,b)取最小值的a,b为所求。

令: ∂Q/∂a= 2Σ(i=1->n)[yi-(axi+b)](-xi)= 0 (3),

∂Q/∂b= 2Σ(i=1->n)[yi-(axi+b)] = 0 (4),

根据(3)、(4)解出a ,b就确定了回归方程(1):

a Σ (Xi)² + b Σ Xi = Σ Xi Yi (5);

a Σ Xi + b n = Σ Yi (6)

设直线为y=kx+b, 已知的三个点为(xi, yi), i=1,2,3

F(k, b)=(kx1+b-y1)^2+(kx2+b-y2)^2+(kx3+b-y3)^2需取最小值,求导得:

F'k=2x1(kx1+b-y1)+2x2(kx2+b-y2)+2x3(kx3+b-y3)=0-->

k(x1^2+x2^2+x3^2)+b(x1+x2+x3)=x1y1+x2y2+x3y3

F'b=2(kx1+b-y1)+2(kx2+b-y2)+2(kx3+b-y3)=0--->

k(x1+x2+x3)+3b=y1+y2+y3

记x'=(x1+x2+x3)/3, y'=(y1+y2+y3)/3为平均数

解得:

k=∑(xi-x')(yi-y')/∑(xi-x')^2

b=y'-kx'。

温馨提示:答案为网友推荐,仅供参考