多元线性回归预测模型论文

多元线性回归统计预测模型

摘要:本文以多元统计分析为理论基础，在对数据进行统计分析的基础上建立多元线性回归模型并对未知量作出预测,为相关决策提供依据和参考。重点介绍了模型中参数的估计和自变量的优化选择及简单应用举例。

关键词：统计学;线性回归;预测模型

一．引言

多元线性回归统计预测模型是以统计学为理论基础建立数学模型，研究一个随机变量Ｙ与两个或两个以上一般变量X1,X２，…,Xp之间相依关系,利用现有数据,统计并分析，研究问题的变化规律，建立多元线性回归的统计预测模型,来预测未来的变化情况。它不仅能解决一些随机的数学问题,而且还可以通过建立适当的随机模型进而解决一些确定的数学问题,为相关决策提供依据和参考。

目前统计学与其他学科的相互渗透为统计学的应用开辟新的领域。并被广泛的应用在各门学科上,从物理和社会科学到人文科学，甚至被用来工业、农业、商业及部门。而多元线性回归是多元统计分析中的一个重要方法,被应用于众多自然科学领域的研究中。多元线性回归分析作为一种较为科学的方法,可以在获得影响因素的前提下，将定性问题定量化，确定各因素对主体问题的具体影响程度。

二.多元线性回归的基本理论

多元线性回归是多元统计分析中的一个重要方法，被广泛应用于众多自然科学领域的研究中。多元线性回归分析的基本任务包括:根据因变量与多个自变量的实际观测值建立因变量对多个自变量的多元线性回归方程；检验、分析各个自变量对因自变量的综合线性影响的显著性；检验、分析各个自变量对因变量的单纯线性影响的显著性，选择仅对因变量有显著线性影响的自变量，建立最优多元线性回归方程;评定各个自变量对因变量影响的相对重要性以及测定最优多元线性回归方程的偏离度等。由于多数的多元非线性回归问题都可以化为多元线性回归问题,所以这里仅讨论多元线性回归。许多非线性回归和多项式回归都可以化为多元线性回归来解决,因而多元线性回归分析有着广泛的应用。

2.1　多元线性回归模型的一般形式

设随机变量y与一般变量线性回归模型为

模型中Ｙ为被解释变量(因变量）,而是p个可以精确测量并可控制的一般变量，称为解释变量（自变量）。p＝1时，(２.1)式即为一元线性回归模型，p大于2时，(2.1)式称为多元线性回归模型。因变量Y由两部分决定:一部分是误差项随机变量，另一部分是p个自变量的线性函数。其中，是p+１个未知参数,称为回归常数，称为偏回归系数，它们决定了因变量Y与自变量的线性关系的具体形式。是随机误差,对随机误差项满足

对一个实际问题,如果n组观察数据()，ｉ=１,2,…，n,则线性回归模型(２．１)式可表示为

即

 　　  　 （2．3)

写成矩阵形式为

 

其中

, , 　 　  (２.5）

矩阵是n(p＋1)矩阵,称为回归设计矩阵或资料矩阵。

２.2　模型的基本假设

为了便于进行模型参数估计,对线性回归方程（2.3）式进行了如下假设。

1．零均值假定。即

2．正态性假定。即

３.同方差和无自相关假定。即

4.无序列相关假定（随机项与解释变量不相关)。即

5.无多重共线性假定。

解释变量是确定性变量，不是随机变量且满足要求。表明设计矩阵的自变量列之间不相关，样本容量的个数应大于解释变量的个数，是一满秩矩阵。

２.3　多元线性回归方程

在多元线性回归模型基本假设的基础上,对（2.2)式两边取数学期望,可得ｙ的期望函数为

 （i＝1，２，…，n　)　  　 (2.6)

该方程为多元线性方程为理论回归方程。方程中,参数都是未知的,因此就需要利用样本观测值法去估计他们,如果可以得到参数估计值,则得到多元线性样本回归预测方程

(２.７)式是（2.6）的估计方程，其中是对参数的估计。有样本回归方程得到的预测值的估计值与实际观测值之间通常会存在一定的偏差,这一偏差称为残差,记为。

三.多元线性回归统计预测模型的建立

多元线性回归分析的基本任务包括：根据因变量与多个自变量的实际观测值建立因变量对多个自变量的多元线性回归方程;检验、分析各个自变量对因自变量的综合线性影响的显著性;检验、分析各个自变量对因变量的单纯线性影响的显著性,选择仅对因变量有显著线性影响的自变量,建立最优多元线性回归方程;评定各个自变量对因变量影响相对重要性以及测定最优多元线性回归方程的偏离度等。

研究在线形相关条件下，两个或两个以上自变量与一个因变量的数量变化关系,称为多元线形回归分析，求得的数学公式称为多元线形回归模型。多元线形回归模型是一元线形回归模型的扩展。

3．1回归建模步骤流程图

3.１ 多元回归的预测模型

设因变量y与自变量ｘ1，ｘ２,…,ｘm－1共有n组实际观测数据（见表3.1)。

表3.1观测数据表

变量	ｙ
1	y1
2

y是一个可观测的随机变量，它受到ｍ-1个非随机因素x1，x2，…，ｘm-1和随机因素的影响。若y与x１，ｘ2,…，xm-1有如下线性关系

　    　  　 　 (3.1）

其中y为因变量x1，x2,…,xm－1为自变量, 是ｍ个未知参数;是均值为零，方差为的不可观测的随机变量，称为误差项,并通常假定。对于ｎ（ｎ≥ｐ)次观测,得到n组数据(样本)：

 （3.２）

其中　是相互的,且服从分布。

　 令，　 ， 

则 （3.１) 式用矩阵形式表示为:

       　　        　　    　  (３．3)

３．2 模型参数的估计 

回归理论模型确定后，利用收集、整理的样本数据对模型的未知参数给出估计。未知参数的估计方法最常用的是普通最小二乘法，它是经典的估计方法。对于不满足模型基本假设的回归问题，人们给出了一些新的方法,如岭回归、主成分回归、偏最小二乘估计等。但是它们都是以普通最小二乘法为基础。但参数变量较多时,计算量很大,一般采用计算机软件,如TＳP、SＰＳS、SＡS等。

  设分别是参数的最小二乘估计,则y的观测值可表示为: 

　   　　 　　    （3.4)

其中ｋ＝1，2，…，N。是误差的估计值.又令为的估计值，有:

 (3.5）

（３.5）式为观测值的回归拟合值，简称回归值或拟合值。相应的,称向量为因变量向量的回归值。

根据最小二乘法应使得全部观测值与回归值的偏差平方和Q达到最小。Q是未知参数向量的非负二次函数，Q反映了在n次观察中总的误差程度,Ｑ越小越好。即:

 （3.6)

有最小值。由于口是的非负二次式，最小值一定存在。根据数学分析的极值原理应满足下述方程组:

　　　   　     　(3．７)

称为正规方程组.将式代人(3.７)式整理得:

(3．8）

显然正规方程组的系数矩阵是对称矩阵。令

　   　 

则(3.8)式可以写为矩阵形式的方程或假设系数矩阵A满秩，求解上述矩阵方程得回归系数β的最小二乘法估计为：

 （3.9）

即为回归系数β的最小二乘法估计。

3．3 模型检验 

当模型的未知参数估计出来后，初步建立了一个回归模型，但是这个模型是否真正揭示了被解释变量和解释变量之间的关系，在根据因变量与多个自变量的实际观测数据建立多元线性回归方程之前，因变量与多个自变量间的线性关系只是一种假设,尽管这种假设常常不是没有根据的，但是在建立了多元线性回归方程之后，还必须对因变量与多个自变量间的线性关系的假设进行显著性检验，也就是进行多元线性回归关系的显著性检验，或者说对多元线性回归方程进行显著性检验。

3.3．１　回归方程的拟合优度检验

拟合优度一般用于检验样本回归直线对观测值得拟合度。在一元线性回归方程中,用判定系数R2衡量估计方程对样本对观测值的拟合程度；在多元线性回归方程中,同样也可以。即SST=SSR+ＳSE,

其中为总离差平方和，为回归平方和，它是反映回归效果的参数,为残差平方和。式中:为第ｉ个样本点(）上的回归值。式中:为y的样本平均值。

判定系数Ｒ２指因变量y的总变差中能由自由变量所解释的那部分变差的比重,即数学模型为

      　  　     　   (3.１1）

的值越接近于1，表明回归方程对实际观测值的拟合度效果越好，相反越接近0,拟合效果越差。

3.4.2 回归方程的整体显著性检验

在一元线性回归中，回归系数显著性检验ｔ检验与回归方程显著性检验的Ｆ检验是等价的,但是在多元线性回归中,就不等价了。Ｆ检验显著是说明对自变量x整体的线性回归效果显著的，但不等于y对于每一个自变量x的效果都显著;反之也不成立。

3．4.３ 回归系数的显著性检验

在多元线性回归中,回归方程显著并不意味着每个自变量对因变量y的影响都是显著的，因此需要对每个回归系数进行显著性检验。假设，检验统计量t为

在回归效果差的情况下,根据大小采用后退法依次剔除对应的不显著自变量，用剩余的显著因素进行最后一次回归。

３.5 残差分析

一个估计回归方程可能有较高的判定系数,也可能通过显著性检验,但是并不能说就是一个好模型，因为这些都是建立在模型假设基础上的,如果最初模型假设不真实,就要用残差分析验证。

ＤW检验的基本思想：如果存在正相关,那么残差的相邻值彼此之间应当比较接近，分子项就会较小,进而DW值也会比较小；如果存在负相关，就相反。检验统计量DW的表达式为

数学上推导出ＤW取值[0,４]，其中ｔ代表了时间，残差是按照时间顺序收集的。

四.多元线性回归统计预测模型的应用

4.1　预测模型计算

参数变量较多时，计算量很大，一般采用计算机软件，如TSP、SＰSＳ、ＳAS等。其预测模型的计算步骤如下：

第1步　 数据输入。在ＳPSS的数据编辑窗口中输入表1中的数据，如果是已编辑好的数据,可以直接将数据粘贴到ＳPSＳ数据编辑窗口。

第2步　 确定分析方法。在“Aｎａlyze”菜单“Reｇreｓsｉon”(回归分析)中选择“Linｅar”（线性）命令,进入弹出的“Lｉnear Rｅgrｅsｓiｏn”（线性回归)对话框,从对话框左侧的变量列表中点击标记变量y，然后,单击“Dependｅnt”(因变量)框左边的按钮，将变量y添加到因变量框中;同样的方法,将自变量添加到“Indｅpｅndｅnt”(自变量）框中。

（1）设定多元线性回归分析自变量的筛选方法。

（２）设置变量筛选的条件。

（3）确定作图的标志变量　　

(４）加权最小二乘法。

（5)选择输出项。

(６）分析结果的保存设置

（7）自变量筛选参数及剔除变量的处理设定。

第3步　　完成回归分析。完成上述过程后，单击“OK”按钮，即可得到SPSS的多元回归预测结果。

4．2　案例一

为了预测某油区今后的产量变化，通过结合现场实际情况进行了深入分析研究，选取了7个影响产量变化的因素：总油井数ｘ1、油井开井数x2、上年产油量ｘ3、上年产水量x4、上年采油速率ｘ5、上年采出程度x6作为自变量xi(i=1，2,…,6）,年产油量作为因变量y,见表4.1所示。

年份	总井数	开井数	上年含水	上年产油量	上年产水	上年采油速率	上年采出程度	产量
１９8５	7４4	61１	36.7	４5０.56	2２９.44	2．0１	7．２３	５４8．7025
19８6	87１	６65	3５.６	5４８.７025	31１．5599	１.87	7.05	58７.76６4
1987	1031	779	38.4	587.76	35５.2637	1.68	8．49	５80．8112
１９88	1238	１０1４	39．4	580．8112	378	１.77	9.6１	53４.0132
198９	1５49	１249	41.8	534.０132	44３.８85	1.4５	9.０7	６１1.07
1９90	190０	154１	42．33	611．07	531.55	1.5３	9.54	7６０.０1
199１	2326	18１3	４2.9３	760.0１	6４4.85	1.６	9.49	9０0．４2
199２	２798	22０1	４6.2１	90０.４2	77６．36	1.5５	10.2５	1001.004３
199３	3４50	2739	4５.8	1０01.０043	8８７.44２3	1.49	9.35	1１35．６51
1994	３936	3０１4	４7．８	1135．651	1０2７．4552	1.43	9.08	1２5８.３527
１9９5	４1	３569	49.3	12５８.3527	１１７3.９625	1.31	9．３1	13３５.0502
19９6	5150	3８３８	52.1５	1３35.０502	1４４4.00９2	１．37	1０.13	１360．2０06
１997	5750	44３7	55.４６	１360.2０06	１６91.8２41	1.26	１0．88	1370.102
19９8	55	4794	59．83	1370.102	１925.72２3	1.１8	11.54	1３85.0697
１９９9	71	5348	6０．87	1３８5.0697	2165．2523	1.１1	12．07	１3９０.088６
2000	８411	６485	63.39	13９０.0886	2３06.３７85	1.1１	12.９6	14９５．1202
２0０1	9８０8	7319	６3.12	1495.１2０2	2551.７９４２	1.2	13.５7	1５47．１9２２
２002	108５2	8113	.79	1547.１922	2741．１18４	１.2	14.76	1513.84２4
2００3	1２329	9193	６7.45	15１3．８424	3０７1．0021	1.0７	1４.59	1495．0469

2004	13260	48	6８.8９	1４９5.04６９	３2６6.8308	1．０1	1４.88	1452.0８12
2005	１3908	9３90	70.12	1452.0812	32１９．８5５4	0.９５	1５.４	143０.3474
20０6	1４697	9７29	71．88	1４30.347４	３５２４.7929	0.８８	15.82	１441.50５3
2007	15４10	10098	7１.88	1441.5053	37５5．5592	0．9１	16.４6	1４18.８725
2008	１5656	1０573	72．9５	1418.８725	3８１6．6083	０．8３	17.22	１376.558５
20０9	15873	１０9２8	72.83	13７6．5５85	3694.4４16	0．83	17.７4	1361.8７35

表4.1　某油田年产量影响因素基础数据

注:1984年的产油量为４5０.56×１0４t/a

根据图表４.1建立预测模型,即１985~20０６年数据用于确定模型参数，余下3组数据作为检验数据以验证模型的可靠性和实用性。

     　     　　　    　       　    表 4.２ 输入移出的变量

模型	输入的变量	移去的变量	方法
1	上年采出程度（%)，　上年产油量（１04t), 上年采油速率（％）, 总井数(口）， 上年含水（％), 开井数(口）, 上年产水(1０4t)a	.	输入

从表４.2中我们可以看出,所有７个自变量进入模型，说明我们的解释变量都有显著并且是有解释力的。

表 4.３ 模型汇总

模型	R	R 方	调整 R　方	标准　估计的误差	Ｄuｒｂｉn－Waｔsｏn
1	.994ａ	．988	．9８2	5０.405５818	1.371

图4.３给出了模型整体拟合效果的概述,模型的拟合优度系数为0.９９4，反应了因变量与自变量之间具有高度显著的线性关系。

表 4.4　方差分析表

模型		平方和	df	均方	F	Sig.
1	回归	29０61２8.１3３	7	4１5１61.162	163.40３	.000ａ
	残差	3557０.117	14	２540.７２3
	总计	２９4１69８.２5１	21

方差分析表,模型的设定检验F统计量的值为16３.４03，显著性水平的值P值几乎为零，说明因变量与自变量的线性关系明显。

表　４.5 回归系数表 

模型		非标准化系数		标准系数	t	Sig.
		B	标准 误差	试用版
1	(常量)	-497．348	651．118		-.7	.458
	总井数(口）	.０14	.042	．１71	．327	.749
	开井数（口)	.０87	.0６1	.７4２	1.４36	．173
	上年含水(%)	2８.３０1	１4.０3４	.9０7	２．017	.０６3
	上年产油量（104t)	.８58	.116	.907	7.40７	.00０
	上年产水（１０4t）	-.492	.1９4	－1.4	-2.529	．024
	上年采油速率（%)	-7．11２	147.９71	-.０06	-．048	.９62
	上年采出程度(％）	－4３．23０	２2.９47	-.312	-1.8８4	.081

设多元线性回归方程式为：

求得,其回归系数分别为:-４97．348、０．14、0.8７、28.301、0.85８、-0．49２、-7.1１2、-４3．23０。

其统计量为：ｑ =3５５70、u =2９０６1２8、F　=163.４0３、r=0.99４。自变量x１～x7的tj计量分别为:0.3２7、1．4３6、２.0１7、7.40７、－２.52９、－０.０４８、-1.88４。

给出了回归系数表和变量显著性检测的T值,发现变量(上年采油速率)的T值太小,没有达到显著性水平,因此将这个变量剔除。筛选后回归方程为:

再次回归计算，得到回归系数分别为:-525.169４、0.０14６、０.08６5、28.7433、0.8583、-0．4９56、-4３.31４2。其统计量为：q =3５576、ｕ =29０6100、F　=2０4.2１９4、r =0.9９3９。自变量，的值统计量分别为:0.3855、1．４１91、2.2721、３.4601、２.3309、１．7４8４。

根据得到的各个影响因素的ｔ值统计量再次进行筛选，应剔除自变量(总油井数)。第二次筛选后回归方程为：

回归系数分别为:-486.85０0、0.１01８、2７.982７、0.8394、-0.4630、-44.0693。其统计量为：ｑ　＝3５932、u =2905800、F ＝258.77９４、r =0.9９39。自变量的值统计量分别为:2.1695、2.32６4、３.6２7９、2.5104、1．8291。

最终得到的显著自变量是油井开井数、上年含水率、上年产油量、上年产水量、上年采出程度。由此建立的预测模型为:

式中:y为产油量;为油井开井数；为上年含水率;为上年产油量;为上年产水量;为上年采出程度。

。

表　4.６ 多元回归预测结果

年份	实际产油量 (104t/a)	多元线性回归
		拟合预测值（104t/ａ)	相对误差（％）
1９９７	13７0.102	139５.７	1.8７
1998	1385.０6９7	14２５.2	2.90
1９9９	１３9０．０886	1３．0	0．08
20０0	1４95.1202	14７5.０	1.35
2０0１	1547．1９22	1500.０	3.05
2002	1513.8424	1531.1	1.14
２003	1４95．046９	154２.3	3.16
20０４	１４52．0812	1４3８.４	0.94
２０05	１430.3474	1４80.6	3．51
200６	1441．5０53	1386.4	3.８2
平均相对误差(%）			3.60
2007	1418.872５	１29８．3	8.50
200８	13７6.5５8５	1２9５.8	5.8７
２009	１361.８735	1３40．0	1.61
平均相对误差（％)			5.３3

数据分析得到结果,平均相对误差为５.33%，所以预测得到的预测结果基本上都能满足油藏工程的要求。

4.3 案例二

我国民航客运量（万人)受到国民收入（亿元）、消费额（亿元)、铁路客运量(万人)、民航航线里程(万公里)、来华旅游入境人数（万人）这些因素的影响,根据１6年的统计数据(见表４.7）。

表 4.７ 民航客运量

年份顺序	y
第1年	231	３010	188８	81491	14．8９	１８0.92
第2年	2９8	3350	２１95	8638９	16	4２0.39
第3年	34３	3６88	2531	９2204	19.53	570.２5
第4年	４01	39４1	２799	95300	21.82	7７6.7１
第5年	4４5	4258	3054	99922	２３.27	7９2.４３
第６年	39１	４736	33５8	1060０4	22.９1	9４7.７
第7年	554	5６52	3９０5	1103５3	26.02	12８5.2
第8年	7４4	7０2０	4879	１１2110	27．72	1783.3
第９年	99７	7859	5５５2	１08579	32.４3	2282
第10年	1310	９31３	6386	１12429	38.9１	2690.2
第１1年	144２	11738	80３8	１2２６45	37.38	3１6９．5
第１2年	1283	13176	9005	1138０7	47.１９	2450.1
第１3年	１6６0	14３84	96６3	95712	５0．６8	2746．2
第１4年	2１78	１6557	１０９６9	９５0８1	55.91	33３5.7
第１5年	２８86	2０２23	12985	9９693	83.66	3311.５
第１6年	3383	24８８2	15９49	10５45８	９6.08	41５2.7

通过模型汇总,显示了回归方程的拟合情况。

表　4.8　模型汇总表

模型	R	R　方	调整　R 方	标准 估计的误差	Durbiｎ－Watson
１	.999a	．９９8	.９９7	49.48０	1.9９4

图4.8可见模型的负相关系数为0.９99，判定系数0．９98调整后的判定系数为０.997，模型拟合效果较好;DW值为1.994，接近于2,可认为模型不存在自相关。

表 4.9 方差分析表

模型		平方和	df	均方	F	Sig.
1	回归	1.382E7	5	2763777.779	1128.862	.０0０a
	残差	24482.85７	10	24４8．286
	总计	1.３84E7	15

给出了参与回归分析的6方差分析结果及检验结果,回归方程的F值为11２8.619，ｐ值为0.0００,可见方程整体而言是显著的。

表 4.1０系数

模型		非标准化系数		标准系数	t	Sｉg.
		Ｂ	标准 误差	试用版
１	(常量)	451.15５	17８.094		2．533	.030
	X1	．３５4	.08５	2.4４7	４.154	．002
	X2	－.５６2	.125	-2.４8５	－4.480	.0０1
	X3	-.007	.002	-.083	-3.5１1	.006
	X4	2１.57８	4．０２９	.531	５.３5６	.000
	X5	.435	.05２	.５	8.443	.00０

表4.１0给出了回归方程的非标准化估计系数、标准化估计系数值、系数的统计显著性检验结果以及方差膨胀因子。因为估计方程的常数项和各变量系数对应的p值都小于０.05,因此均具有统计显著性。但是变量ｘ的方差膨胀因子VＩＦ都大于10,因此存在显著的共线性。选取最大的方差膨胀因子的变量为多余变量,依次剔除变量和,最终将、和纳入回归方程，重复运算方差系数、系数检验表。

表　4．１1 残差统计量

	极小值	极大值	均值	标准　偏差	N
预测值	2．９６	3４17.04	115９.１3	9５9．823	1６
标准　预测值	-.932	2.3５2	.０00	１.０00	16
预测值的标准误差	１９.5６3	38.７9４	2９.56８	６.838	16
调整的预测值	２９３.79	3467.38	１１6０.38	９６０.299	16
残差	-5０.234	79.８4４	.00０	40．４０0	16
标准 残差	-１．015	1．614	．00０	．816	16
已删除的残差	-87.7５3	140．0３3	-1．2５１	76.6８０	１6
Cｏok　的距离	.001	.8２1	.183	．21９	16

最后得出剔除后的残差统计表4.11,可见残差符合基本假设,因此模型设定是有效的。

有以上分析结果可得我国民航客运量的回归模型,根据回归模型可知,客运量的影响因素,固定其他因素，铁路客运量没增加1万人,民航客运量就减少０.01万人；民航历程每增加1万公里,民航客运量增加26.４３4万人；来华游客每增加1万人，民航客运量增加0.3１7万人。

五．　结  论

(1）本文具体介绍了多元线性回归模型的建立和应用,并采用SPSS软件对实例进行了分析；

(2）多元线性回归模型能从诸多变量中挑选出显著变量是模型中的可控因素,因此可以通过模型预测达到控制的目的。

(3) 多元线性回归统计预测模型被广泛运用于各学科上。

参考文献

[1] 何晓群等．多元统计分析在考试评价中的应用.国家教育部考试中心重点课程研究报告,20０1

[2] 王岩,隋思涟,王爱青.数理统计与MATLAB工程数据分析[Ｍ]．北京:清华大学出版社,2００6.

[3] 张恒喜,郭基联，朱家元,虞健飞.小样本多元数据分析方法及应用[Ｍ］.西安：西北工业大学出版社,200２.

[4] 吾今培,孙德山.现代数据分析[M].北京:机械工业出版社,2０06.

［5] 阎长俊. AR 模型的建模与预测[Ｊ]. 沈阳建筑工程学院学报，1９97.

Mｕltｉple linear　ｒｅgressｉoｎ　statｉsｔics　fｏrecastｉng ｍｏｄel

　       　 　    　　     　　       　 　 Ｌianｇ　Fan  

(Tｈe Collｅｇｅ　of　Mathematｉcｓ and Stａtisｔiｃs，Yｉli Ｎｏrｍal Ｕniversｉty,Yining,Xiｎjianｇ, 83５０00)

Abｓtｒaｃt： baｓed on tｈe ｔｈeｏry of mｕltiｖaｒiate sｔaｔistiｃaｌ anaｌｙsis, and ｓｔatisticａl ａnaｌysis of　dａta established on ｔhe baｓis　of　mulｔiple ｌｉneaｒ regrｅssioｎ moｄel and ｔhe unknown quａntｉty make　preｄictiｏns, for ｒelａted decision pｒovides ｔｈe bａｓis　and the refｅrｅｎce. Ｆｏｃｕｓｉｎg ｏn the paｒametｅrs in　thｅ model anｄ the　optiｍizatiｏn of tｈe estimates　oｆ thｅ inｄepｅnｄeｎt vａriable ｓｅleｃtiｏn anｄ　simple ｅｘamｐｌｅｓ of apｐlicaｔion. 

Ｋeywords: statistics； Linear regresｓiｏn; Prｅdｉctioｎ modeｌ