統計學 - 線性迴歸

一旦使用相關分析確定了變數之間的關係程度，自然就會深入研究關係的性質。迴歸分析有助於確定變數之間的因果關係。如果可以使用圖形方法或代數方法預測自變數的值，則可以預測其他變數（稱為因變數）的值。

圖形方法

這涉及繪製散點圖，其中自變數位於 X 軸上，因變數位於 Y 軸上。之後，繪製一條線，使其穿過大部分分佈，其餘點幾乎均勻地分佈線上的兩側。

迴歸線被稱為最佳擬合線，它總結了資料的總體走勢。它顯示了一個變數的最佳平均值與另一個變數的平均值相對應。迴歸線基於這樣的標準：它是一條直線，可以最小化因變數的預測值和觀察值之間的平方差之和。

代數方法

代數方法建立了 X 對 Y 的兩個迴歸方程和 Y 對 X 的兩個迴歸方程。

Y 對 X 的迴歸方程

${Y = a+bX}$

其中 -

${Y}$ = 因變數
${X}$ = 自變數
${a}$ = 表示 Y 截距的常數
${b}$ = 表示直線斜率的常數

a 和 b 的值由以下正規方程獲得

${\sum Y = Na + b\sum X \\[7pt] \sum XY = a \sum X + b \sum X^2 }$

其中 -

${N}$ = 觀察次數

X 對 Y 的迴歸方程

${X = a+bY}$

其中 -

${X}$ = 因變數
${Y}$ = 自變數
${a}$ = 表示 Y 截距的常數
${b}$ = 表示直線斜率的常數

a 和 b 的值由以下正規方程獲得

${\sum X = Na + b\sum Y \\[7pt] \sum XY = a \sum Y + b \sum Y^2 }$

其中 -

${N}$ = 觀察次數

示例

問題陳述

一位研究人員發現父親和兒子的體重趨勢之間存在相關性。他現在有興趣根據給定資料開發這兩個變數的迴歸方程。

父親體重（公斤）	69	63	66	64	67	64	70	66	68	67	65	71
兒子體重（公斤）	70	65	68	65	69	66	68	65	71	67	64	72

開發

Y 對 X 的迴歸方程。
對 Y 的迴歸方程。

解決方案

${X}$	${X^2}$	${Y}$	${Y^2}$	${XY}$
69	4761	70	4900	4830
63	3969	65	4225	4095
66	4356	68	4624	4488
64	4096	65	4225	4160
67	4489	69	4761	4623
64	4096	66	4356	4224
70	4900	68	4624	4760
66	4356	65	4225	4290
68	4624	71	5041	4828
67	4489	67	4489	4489
65	4225	64	4096	4160
71	5041	72	5184	5112
${\sum X = 800}$	${\sum X^2 = 53,402}$	${\sum Y = 810}$	${\sum Y^2 = 54,750}$	${\sum XY = 54,059}$

Y 對 X 的迴歸方程

Y = a+bX

其中，a 和 b 由正規方程獲得

${\sum Y = Na + b\sum X \\[7pt] \sum XY = a \sum X + b \sum X^2 \\[7pt] 其中\ \sum Y = 810, \sum X = 800, \sum X^2 = 53,402 \\[7pt] , \sum XY = 54, 049, N = 12 }$

${\Rightarrow}$ 810 = 12a + 800b ... (i)

${\Rightarrow}$ 54049 = 800a + 53402 b ... (ii)

將方程 (i) 乘以 800，將方程 (ii) 乘以 12，我們得到

96000 a + 640000 b = 648000 ... (iii)

96000 a + 640824 b = 648588 ... (iv)

從 (iii) 中減去方程 (iv)

-824 b = -588

${\Rightarrow}$ b = -0.713

將 b 的值代入方程 (i)

810 = 12a + 800 (-0.713)

810 = 12a + 570.4

12a = 239.6

${\Rightarrow}$ a = 19.96

因此，Y 對 X 的方程可以寫成

${Y = 19.96 - 0.713X}$

X 對 Y 的迴歸方程

X = a+bY

其中，a 和 b 由正規方程獲得

${\sum X = Na + b\sum Y \\[7pt] \sum XY = a \sum Y + b \sum Y^2 \\[7pt] 其中\ \sum Y = 810, \sum Y^2 = 54,750 \\[7pt] , \sum XY = 54, 049, N = 12 }$

${\Rightarrow}$ 800 = 12a + 810b ... (V)

${\Rightarrow}$ 54,049 = 810a + 54,750b ... (vi)

將方程 (v) 乘以 810，將方程 (vi) 乘以 12，我們得到

64800 = 9720a + 656100b ... (vii)

648588 = 9720a + 657000b ... (viii)

從方程 (vii) 中減去方程 (viii)

-588 = -900b

${\Rightarrow}$ b = 0.653

將 b 的值代入方程 (v)

800 = 12a + 810 (0.653)

12a = 271.07

${\Rightarrow}$ a = 22.58

因此，X 和 Y 的迴歸方程為

${X = 22.58 + 0.653Y}$

列印頁面