107 高普考高考三級 統計 迴歸分析 考古題詳解

核心觀念

本題為典型多元線性迴歸分析之綜合題型，涵蓋迴歸診斷、統計推論、變異數分析、額外平方和（Extra Sum of Squares）、變數選取準則（Model Selection Criteria）及殘差分析。主要涉及核心公式與定義如下：

1. 皮爾森積差相關係數（Pearson Correlation Coefficient）： $r = \frac{\sum (X_i - \bar{X})(Y_i - \bar{Y})}{\sqrt{\sum (X_i - \bar{X})^2 \sum (Y_i - \bar{Y})^2}} = \frac{SP_{XY}}{\sqrt{SS_X \cdot SS_Y}}$
2. 單變數與整體迴歸 F 檢定：

• 總平方和分解：$SST = SSR + SSE$
• 判定係數：$R^2 = \frac{SSR}{SST} = 1 - \frac{SSE}{SST} \implies SST = \frac{SSE}{1 - R^2}$
• 全體迴歸檢定統計量：$F^* = \frac{MSR}{MSE} = \frac{SSR / k}{SSE / (n - p)} \sim F(k, n - p)$，其中 $k = p - 1$ 為解釋變數個數。

3. 額外平方和（Extra Sum of Squares）與偏 F 檢定（Partial F-test）： $SSReg(X_A \mid X_B) = SSE(X_B) - SSE(X_A, X_B) = SSR(X_A, X_B) - SSR(X_B)$ 檢定在已有變數集 $X_B$ 下，加入 $X_A$ 是否具顯著邊際貢獻： $F^* = \frac{SSReg(X_A \mid X_B) / r}{MSE(X_A, X_B)} \sim F(r, n - p_{\text{full}})$
4. 模型選取準則：

• 調整判定係數：$R_{a,p}^2 = 1 - \frac{SSE_p / (n - p)}{SST / (n - 1)} = 1 - \frac{MSE_p}{MST}$
• Mallows' $C_p$ 統計量：$C_p = \frac{SSE_p}{MSE(\text{All})} - (n - 2p)$，用於衡量總均方誤差（Total MSE），當模型無偏誤時 $E[C_p] \approx p$。

5. 高斯—馬可夫（Gauss-Markov）與常態誤差假設：$\epsilon_i \overset{i.i.d.}{\sim} N(0, \sigma^2)$，包含線性性（期望值為 0）、同質變異性、獨立性、常態性。

解題方法與詳細計算

（一）排除離群值並重新計算 $X_2$ 與 $X_3$ 之相關係數

1. 離群值判斷： 觀察 $X_2$（大專以上學歷比率）與 $X_3$（老化指數）之散布情形：

• 整體資料呈現負相關趨勢（相關矩陣中 $r = -0.522$）。
• 「臺北市」的 $X_2 = 71.40$ 為全體 19 個縣市中最高（次高僅為嘉義市 58.54 與新竹市 55.35）；然而臺北市的老化指數 $X_3 = 88.31$，在 $X_2 > 45$ 的年輕都會區中（如桃園 48.07、新竹市 50.40、臺中 53.28、新北 59.00）顯著偏高。
• 在散布圖上，臺北市 $(71.40, 88.31)$ 孤立於右上角，嚴重偏離主群體的線性負向軌跡，屬於顯著的雙變量離群值（Bivariate Outlier）。

2. 排除臺北市後重新計算相關係數（$n = 18$）：

• 包含臺北市時（$n = 19$）： $\sum_{i=1}^{19} X_{2i} = 770.09, \quad \sum_{i=1}^{19} X_{3i} = 1517.13$ $\sum_{i=1}^{19} X_{2i}^2 = 33736.1677, \quad \sum_{i=1}^{19} X_{3i}^2 = 127867.3181, \quad \sum_{i=1}^{19} X_{2i}X_{3i} = 59341.8699$
• 扣除臺北市觀測值 $(X_{2} = 71.40, X_{3} = 88.31)$ 後（$n = 18$）： $\sum X_2 = 770.09 - 71.40 = 698.69$ $\sum X_3 = 1517.13 - 88.31 = 1428.82$ $\sum X_2^2 = 33736.1677 - 71.40^2 = 33736.1677 - 5097.96 = 28638.2077$ $\sum X_3^2 = 127867.3181 - 88.31^2 = 127867.3181 - 7798.6561 = 120068.6620$ $\sum X_2 X_3 = 59341.8699 - (71.40 \times 88.31) = 59341.8699 - 6305.3340 = 53036.5359$
• 計算離差平方和與交叉乘積和： $SS_{X_2} = \sum X_2^2 - \frac{(\sum X_2)^2}{18} = 28638.2077 - \frac{(698.69)^2}{18} = 28638.2077 - 27120.4287 = 1517.7790$ $SS_{X_3} = \sum X_3^2 - \frac{(\sum X_3)^2}{18} = 120068.6620 - \frac{(1428.82)^2}{18} = 120068.6620 - 113418.1440 = 6650.5180$ $SP_{X_2, X_3} = \sum X_2 X_3 - \frac{(\sum X_2)(\sum X_3)}{18} = 53036.5359 - \frac{698.69 \times 1428.82}{18} = 53036.5359 - 55461.2359 = -2424.7000$
• 樣本相關係數： $r_{X_2, X_3} = \frac{SP_{X_2, X_3}}{\sqrt{SS_{X_2} \cdot SS_{X_3}}} = \frac{-2424.7000}{\sqrt{1517.7790 \times 6650.5180}} = \frac{-2424.7000}{3177.1082} \approx -0.7632$

（二）檢定模型 A 的 $X_1$ 迴歸係數是否為 0

• 假設檢定： $H_0: \beta_1 = 0 \quad \text{vs} \quad H_1: \beta_1 \neq 0$
• 統計量推導： 模型 A 為單變數線性迴歸，$n = 19$，$p = 2$（含截距項），誤差自由度 $df_E = n - p = 17$。 由報表已知：$R^2 = 0.365$，$SSE = 34.310$。 $F^* = \frac{SSR / 1}{SSE / 17} = \frac{R^2 / 1}{(1 - R^2) / 17} = \frac{0.365 \times 17}{1 - 0.365} = \frac{6.205}{0.635} \approx 9.7717$ （或換算為 $t$ 統計量：$t^* = \sqrt{F^*} = \sqrt{9.7717} \approx 3.126$）
• 判定結果： 在顯著水準 $\alpha = 0.05$ 下，查 $F$ 分配臨界值 $F_{0.05}(1, 17) \approx 4.451$（或 $t_{0.025}(17) \approx 2.110$）。 因為 $F^* = 9.772 > 4.451$，故拒絕 $H_0$。 結論：在 $\alpha = 0.05$ 下，勞動力參與率 $X_1$ 的迴歸係數顯著不為 0，對粗出生率具有顯著的正向線性影響。

（三）模型 O 之變異數分析表與整體顯著性檢定

1. 總平方和與各項平方和計算： 模型 O 包含 4 個自變數，$p = 5$，$n = 19$。 由報表：$SSE = 22.212$，$R^2 = 0.589$。 $SST = \frac{SSE}{1 - R^2} = \frac{22.212}{1 - 0.589} = \frac{22.212}{0.411} \approx 54.0438$ $SSR = SST - SSE = 54.0438 - 22.212 = 31.8318$ 自由度分配：$df_R = p - 1 = 4$，$df_E = n - p = 19 - 5 = 14$，$df_T = n - 1 = 18$。 $MSR = \frac{SSR}{4} = \frac{31.8318}{4} \approx 7.9580$ $MSE = \frac{SSE}{14} = \frac{22.212}{14} \approx 1.5866$ $F^* = \frac{MSR}{MSE} = \frac{7.9580}{1.5866} \approx 5.0158$

2. 變異數分析表（ANOVA Table）：

3. 假設檢定： $H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0 \quad \text{vs} \quad H_1: \beta_1, \beta_2, \beta_3, \beta_4 \text{ 不全為 } 0$ 在 $\alpha = 0.05$ 下，臨界值 $F_{0.05}(4, 14) \approx 3.112$。 因為 $F^* = 5.016 > 3.112$，故拒絕 $H_0$。 結論：在 $\alpha = 0.05$ 下，該多元迴歸模型整體具統計顯著性，四個解釋變數至少有一個對粗出生率具有顯著解釋力。

（四）計算各額外平方和（Extra Sum of Squares）

利用公式 $SSReg(X_A \mid X_B) = SSE(X_B) - SSE(X_A, X_B)$：

1. $SSReg(X_2 \mid X_1) = SSE(X_1) - SSE(X_1, X_2) = SSE_A - SSE_E = 34.310 - 24.695 = 9.615$
2. $SSReg(X_2 \mid X_3) = SSE(X_3) - SSE(X_2, X_3) = SSE_C - SSE_H = 33.557 - 32.928 = 0.629$
3. $SSReg(X_2, X_3 \mid X_1) = SSE(X_1) - SSE(X_1, X_2, X_3) = SSE_A - SSE_K = 34.310 - 22.277 = 12.033$
4. $SSReg(X_1, X_2 \mid X_3, X_4) = SSE(X_3, X_4) - SSE(X_1, X_2, X_3, X_4) = SSE_J - SSE_O = 33.540 - 22.212 = 11.328$

（五）變數 $X_2$ 對粗出生率之影響是否具統計顯著意義之詳細說明

變數 $X_2$ 對反應變數 $Y$ 的統計顯著性，高度取決於模型中已包含哪些其他解釋變數：

1. 單獨存在時（模型 B：$Y \sim X_2$）： $R^2 = 0.171$，$F^* = \frac{0.171 \times 17}{1 - 0.171} \approx 3.507 < F_{0.05}(1, 17) \approx 4.451$。 未達顯著水準，即單獨考慮 $X_2$ 時對出生率之線性解釋力不顯著。
2. 在控制 $X_1$ 下（模型 E vs. 模型 A）： 進行偏 F 檢定： $F^* = \frac{SSReg(X_2 \mid X_1) / 1}{MSE(X_1, X_2)} = \frac{9.615}{24.695 / 16} = \frac{9.615}{1.5434} \approx 6.230$ 臨界值 $F_{0.05}(1, 16) \approx 4.494$。因 $F^* = 6.230 > 4.494$，達到統計顯著。 由於 $X_1$ 與 $X_2$ 幾乎不相關（$r = -0.014$），兩者各自提供獨立的正向解釋力，控制 $X_1$ 降低了隨機誤差，凸顯出 $X_2$ 的邊際貢獻。
3. 在控制 $X_3$ 下（模型 H vs. 模型 C）： $F^* = \frac{SSReg(X_2 \mid X_3) / 1}{MSE(X_2, X_3)} = \frac{0.629}{32.928 / 16} = \frac{0.629}{2.0580} \approx 0.3056 < F_{0.05}(1, 16) \approx 4.494$ 未達顯著水準。主因 $X_2$ 與 $X_3$ 存在顯著負相關（$r = -0.522$，排除極端值後達 $-0.763$），兩者解釋之訊息高度重疊（共線性替代），在已控制老化指數 $X_3$ 後，$X_2$ 無法再提供額外解釋力。
4. 在全模型控制 $X_1, X_3, X_4$ 下（模型 O vs. 模型 M）： $SSReg(X_2 \mid X_1, X_3, X_4) = SSE_M - SSE_O = 23.862 - 22.212 = 1.650$ $F^* = \frac{1.650 / 1}{MSE_O} = \frac{1.650}{1.5866} \approx 1.040 < F_{0.05}(1, 14) \approx 4.600$ 未達顯著水準。

綜合結論：$X_2$ 是否顯著依模型設定而異。單獨考量或在已控制老化指數 $X_3$ 的模型中均不顯著；但在僅控制勞動力參與率 $X_1$ 時，$X_2$ 具有高度統計顯著性。

（六）各模型選取準則之定義與判斷原則

1. 誤差平方和（$SSE_p$）：

• 定義：$SSE_p = \sum_{i=1}^n (Y_i - \hat{Y}_{i,p})^2$，衡量模型未被解釋的殘差變異總量。
• 判斷原則：在相同參數個數 $p$ 的模型中，選擇 $SSE_p$ 最小者。但因隨變數增加 $SSE_p$ 單調不增，不可跨不同 $p$ 直接比較，否則必然挑選變數最多的飽和模型。

2. 判定係數（$R_p^2$）：

• 定義：$R_p^2 = 1 - \frac{SSE_p}{SST} = \frac{SSR_p}{SST}$，表示反應變數的總變異中被迴歸模型所解釋的比例。
• 判斷原則：在相同 $p$ 下選擇 $R_p^2$ 最大者。但隨解釋變數加入 $R_p^2$ 單調不減，缺乏對模型複雜度的懲罰，不能單純以全域最大 $R_p^2$ 作為選取標準，通常搭配陡坡圖觀察邊際增益。

3. 調整判定係數（$R_{a,p}^2$）：