111 高普考高考三級 統計 迴歸分析 考古題詳解

核心觀念

本題探討單因子變異數分析（One-way ANOVA）在迴歸模型中的建模方式與**指標變數（Dummy Variables / Indicator Variables，亦稱虛擬變數）**的設定。

1. 名義尺度變數的處理：區域為類別變數（Nominal Scale），不能直接當作連續型變數進行線性迴歸。
2. 虛擬變數陷阱（Dummy Variable Trap）與完全多重共線性（Perfect Multicollinearity）：若類別變數有 $k$ 個水準，且模型包含截距項，則最多只能加入 $k-1$ 個虛擬變數；若同時放入 $k$ 個虛擬變數與截距項，將導致矩陣不可逆，參數無唯一解。
3. 基準組（Baseline Group）與參數轉譯：

• 含截距項模型：截距項代表基準組（基期）的平均值，其餘虛擬變數係數代表該組與基準組的「平均值差異」。
• 無截距項模型：各虛擬變數係數直接代表該組的「平均值」。

4. 模型擬合優度與迴歸標準誤（Standard Error of Regression）：利用判定係數 $R^2$ 與總離差平方和 $SST$ 求出殘差平方和 $SSE$，進而計算殘差均方 $MSE$ 與迴歸標準誤 $s = \sqrt{MSE}$。

---

解題方法

1. 資料前處理與分組平均數計算： 依據題目表格資料，計算 30 處茶園在三個區域的樣本數與價格平均數：

• 全體樣本數 $n = 30$，價格總和 $\sum Y = 375.60$，總平方和 $\sum Y^2 = 4821.30$。
• 區域 1（$X_3 = 1$）：樣本數 $n_1 = 11$，價格小計 $\sum_{i \in R1} Y_i = 129.20$，平均價格 $\bar{Y}_1 = \frac{129.20}{11} \approx 11.7455$ 元。
• 區域 2（$X_3 = 2$）：樣本數 $n_2 = 8$，價格小計 $\sum_{i \in R2} Y_i = 86.30$，平均價格 $\bar{Y}_2 = \frac{86.30}{8} = 10.7875$ 元。
• 區域 3（$X_3 = 3$）：樣本數 $n_3 = 11$，價格小計 $\sum_{i \in R3} Y_i = 160.10$，平均價格 $\bar{Y}_3 = \frac{160.10}{11} \approx 14.5545$ 元。

2. 模型擬合關係：

• 模型 B、C、E 為同構（Isomorphic）模型，所得出的組平均數估計值、預測值、殘差平方和 $SSE$ 及 $R^2$ 完全一致。
• 根據模型 B 估計結果驗證：$\hat{\beta}_0 = \bar{Y}_1 = 11.7455$，$\hat{\beta}_1 = \bar{Y}_2 - \bar{Y}_1 = 10.7875 - 11.7455 = -0.9580$，$\hat{\beta}_2 = \bar{Y}_3 - \bar{Y}_1 = 14.5545 - 11.7455 = 2.8091$。

---

題目解析

(一) 說明模型 A、B、C、D 及 E 所表達的意義，並決定那些模型是較合適的

1. 模型 A：$Y = \beta_0 + \beta_1 X_3 + \varepsilon$

• 意義：將區域 $X_3$ 直接視為連續型（數值型）解釋變數。這隱含強烈假設：區域 1 到 2 的價格平均變化量，與區域 2 到 3 的價格平均變化量相同（即強迫各區域平均價格呈線性關係）。
• 合適性：不合適。區域屬類別變數，數值 1、2、3 僅為編號，不具備連續數量或等距性質。

2. 模型 B：$Y = \beta_0 + \beta_1 D_2 + \beta_2 D_3 + \varepsilon$

• 意義：以區域 1為基準組（Baseline），納入 $D_2, D_3$ 兩個指標變數。
• 區域 1：$E[Y] = \beta_0$
• 區域 2：$E[Y] = \beta_0 + \beta_1$ （$\beta_1$ 為區域 2 與區域 1 的平均價格差）
• 區域 3：$E[Y] = \beta_0 + \beta_2$ （$\beta_2$ 為區域 3 與區域 1 的平均價格差）
• 合適性：合適。含有截距項且正確設定 $k-1 = 2$ 個指標變數，可完全獨立估計三區域各自的平均價格，且避免多重共線性。

3. 模型 C：$Y = \beta_0 + \beta_1 D_1 + \beta_2 D_2 + \varepsilon$

• 意義：以區域 3為基準組（Baseline），納入 $D_1, D_2$ 兩個指標變數。
• 區域 3：$E[Y] = \beta_0$
• 區域 1：$E[Y] = \beta_0 + \beta_1$ （$\beta_1$ 為區域 1 與區域 3 的平均價格差）
• 區域 2：$E[Y] = \beta_0 + \beta_2$ （$\beta_2$ 為區域 2 與區域 3 的平均價格差）
• 合適性：合適。與模型 B 統計實質完全相同，僅基準組更換為區域 3。

4. 模型 D：$Y = \beta_0 + \beta_1 D_1 + \beta_2 D_2 + \beta_3 D_3 + \varepsilon$

• 意義：同時放入截距項（常數項 1）與全部 3 個區域的指標變數。
• 合適性：不合適。由於恆有 $D_1 + D_2 + D_3 = 1$（完全等於截距項對應的向量），產生完全多重共線性（虛擬變數陷阱）。設計矩陣 $X^T X$ 奇異不可逆，最小二乘估計式無唯一解。

5. 模型 E：$Y = \beta_1 D_1 + \beta_2 D_2 + \beta_3 D_3 + \varepsilon$

• 意義：不含截距項的模型。
• 區域 1：$E[Y] = \beta_1$ （$\beta_1$ 直接為區域 1 的平均價格）
• 區域 2：$E[Y] = \beta_2$ （$\beta_2$ 直接為區域 2 的平均價格）
• 區域 3：$E[Y] = \beta_3$ （$\beta_3$ 直接為區域 3 的平均價格）
• 合適性：合適。

核心觀念

本題考查三個迴歸分析重點：

1. 虛擬變數的基準組解釋與迴歸預測。
2. 反應變數改變測量單位時，迴歸係數與標準誤的線性轉換。
3. 多重線性迴歸中的聯合假設檢定，使用部分 $F$ 檢定。

模型為

$$Y=\beta_0+\beta_1X_1+\beta_2X_2+\beta_3D_2+\beta_4D_3+\varepsilon.$$

其中區域 1 為基準區域，因此位於區域 1 的茶園具有

$$D_2=0,\qquad D_3=0.$$

---

（一）估計區域 1、因素分數皆為 4.5 之茶葉售價

解題方法

將題目給定的數值代入估計迴歸式。由於茶園位於區域 1，虛擬變數 $D_2,D_3$ 均為 0：

$$\widehat{Y} =10.6039+0.8881X_1-0.6561X_2-0.9285D_2+1.6658D_3.$$

代入 $X_1=X_2=4.5$、$D_2=D_3=0$：

$$\begin{aligned} \widehat{Y} &=10.6039+0.8881(4.5)-0.6561(4.5)\\ &=10.6039+3.99645-2.95245\\ &=11.6479. \end{aligned}$$

因此，一盒 500 公克茶葉的估計售價為

$$\boxed{11.6479}$$

若價格單位為元，則約為 $11.65$ 元。

解題技巧

區域 1是基準組，不是將區域虛擬變數設為 1，而是

$$D_2=D_3=0.$$

此外，兩個因素分數相同時，可先合併計算：

$$(0.8881-0.6561)\times 4.5=0.2320\times4.5=1.044.$$

所以

$$10.6039+1.044=11.6479.$$

---

（二）反應變數改為每公斤價格

核心觀念

原本的反應變數 $Y$ 是每 500 公克價格。每公斤等於兩盒 500 公克，因此新的反應變數定義為

$$Y^*=2Y.$$

原模型為

$$Y=\beta_0+\beta_1X_1+\beta_2X_2+\beta_3D_2+\beta_4D_3+\varepsilon.$$

兩邊同乘以 2：

$$Y^* =2\beta_0+2\beta_1X_1+2\beta_2X_2+2\beta_3D_2+2\beta_4D_3+2\varepsilon.$$

因此，所有迴歸係數估計值與標準誤均乘以 2：

$$\widehat{\beta}_j^*=2\widehat{\beta}_j, \qquad \operatorname{SE}(\widehat{\beta}_j^*) =2\operatorname{SE}(\widehat{\beta}_j).$$

$R^2$ 不受反應變數單位改變影響，仍為 $0.7473$。

係數與標準誤

變數	Estimate	Std Err
Intercept	$21.2078$	$2.9836$
$X_1$	$1.7762$	$0.5504$
$X_2$	$-1.3122$	$0.7372$
$D_2$	$-1.8570$	$1.0194$
$D_3$	$3.3316$	$1.1706$

解題技巧

反應變數乘上常數 $c$ 時：

• 迴歸係數乘上 $c$；
• 標準誤乘上 $|c|$；
• 殘差平方和乘上 $c^2$；
• $R^2$ 不變；
• $t$ 值不變，因為分子與分母同時乘上 $c$。

本題 $c=2$，故所有 Estimate 與 Std Err 直接加倍。

---

（三）檢定 $\beta_1$ 與 $\beta_2$ 是否同時等於 0

核心觀念

欲檢定兩個迴歸係數是否同時為 0，應進行聯合假設檢定：

$$H_0:\beta_1=\beta_2=0,$$ $$H_1:\text{至少有一個不等於 0}.$$

核心觀念

本題考查多元迴歸分析的 ANOVA 表，以及「整體迴歸檢定」與「部分迴歸檢定」。

設樣本數為 $n$，模型含有 $k=3$ 個解釋變數，且包含截距項，則：

• 總自由度：$n-1$
• 迴歸自由度：$k$
• 誤差自由度：$n-k-1$
• 總平方和分解為 $SS_T=SS_R+SS_E$
• 均方為 $MS=\frac{SS}{df}$
• $F$ 統計量為 $F=\frac{MS_{\text{檢定來源}}}{MS_E}$

其中 $X_2\mid X_1$ 表示在已納入 $X_1$ 後，額外加入 $X_2$ 所增加的解釋平方和；$X_3\mid X_1,X_2$ 的意義相同。

---

（一）求 ANOVA 表中各值

1. 樣本數與各自由度

總自由度為 $29$，因此：

$n-1=29\Rightarrow n=30$

模型有三個解釋變數 $X_1,X_2,X_3$，故迴歸自由度為：

$(1)=3$

每次加入一個解釋變數，增加一個自由度，因此：

$(2)=(3)=(4)=1$

誤差自由度為：

$df_E=n-k-1=30-3-1=26$

因此：

$(5)=26$

---

2. 迴歸平方和與誤差平方和

迴歸平方和等於三個逐步平方和之和：

$SS_R=SS_{X_1}+SS_{X_2\mid X_1}+SS_{X_3\mid X_1,X_2}$

$SS_R=33.2+15.3+22.2=70.7$

所以：

$(6)=70.7$

由總平方和分解：

$SS_T=SS_R+SS_E$

$106.3=70.7+SS_E$

$SS_E=35.6$

因此：

$(7)=35.6$

---

3. 各均方

迴歸均方為：

$MS_R=\frac{SS_R}{df_R}=\frac{70.7}{3}=23.5667$

所以：

$(8)=23.5667$

各個部分迴歸項的自由度皆為 $1$，因此：

$MS_{X_1}=\frac{33.2}{1}=33.2$

$$(9)=33.2$

$MS_{X_2\mid X_1}=\frac{15.3}{1}=15.3$

$$(10)=15.3$

$MS_{X_3\mid X_1,X_2}=\frac{22.2}{1}=22.2$

$$(11)=22.2$

誤差均方為：

$MS_E=\frac{SS_E}{df_E}=\frac{35.6}{26}=1.3692$

所以：

$(12)=1.3692$

---

4. 各 $F$ 值

所有 $F$ 值皆以誤差均方 $MS_E$ 為分母。

整體迴歸 $F$ 檢定

=\frac{23.5667}{1.3692} \approx17.2163$$ 因此： $$(13)\approx17.216$$ #### $X_1$ 的部分迴歸檢定 $$F_{X_1}=\frac{MS_{X_1}}{MS_E} =\frac{33.2}{1.3692} \approx24.2472$$ 因此： $$(14)\approx24.247$$ #### $X_2\mid X_1$ 的部分迴歸檢定 $$F_{X_2\mid X_1} =\frac{15.3}{1.3692} \approx11.1818$$ 因此： $$(15)\approx11.182$$ #### $X_3\mid X_1,X_2$ 的部分迴歸檢定 $$F_{X_3\mid X_1,X_2} =\frac{22.2}{1.3692} \approx16.2180$$ 因此： $$(16)\approx16.218$$ --- ## （二）$F$ 檢定的意義與結果 ### 1. 整體迴歸檢定：$(13)$ 整體迴歸檢定是檢驗三個解釋變數合併後，是否對應變數 $Y

核心觀念

本題考查複迴歸模型中的「共線性」與「變異膨脹因子（VIF）」。

在模型

$$Y_i=\beta_0+\beta_1X_{1i}+\cdots+\beta_pX_{pi}+\varepsilon_i$$

中，共線性是指解釋變數 $X_1,\ldots,X_p$ 之間存在高度線性關係，使某一解釋變數可由其他解釋變數近似表示。

若存在常數 $a_1,\ldots,a_p$，且不全為零，使得

$$a_1X_1+a_2X_2+\cdots+a_pX_p\approx 0,$$

則稱解釋變數間具有高度共線性。

須區分：

• 完全共線性：存在精確線性關係。
• 近似共線性：變數間沒有精確線性關係，但相關程度非常高。

---

（一）共線性的意義及其影響

1. 完全共線性

若某一解釋變數可由其他變數精確表示，例如

$$X_3=2X_1-X_2,$$

則設計矩陣 $X$ 的欄向量線性相依，導致

$$X'X$$

為奇異矩陣，無法求得一般最小平方法估計式

$$\hat{\boldsymbol{\beta}} =(X'X)^{-1}X'Y.$$

此時各個迴歸係數無法被個別識別，模型必須刪除部分變數、重新定義變數，或採用其他估計方法。

2. 近似共線性

若解釋變數間高度相關但未達完全線性關係，$X'X$ 雖然可逆，仍會非常接近奇異矩陣。此時最小平方法估計值仍可計算，但估計的變異會大幅增加。

共線性的本質在於：模型難以分辨各解釋變數對 $Y$ 的個別影響。例如 $X_1$ 與 $X_2$ 幾乎同步變動，資料中缺乏「$X_1$ 改變而 $X_2$ 不變」的資訊，因此 $\beta_1$ 與 $\beta_2$ 的個別效果難以精確估計。

3. 對估計量的影響

在古典線性迴歸模型假設成立，且不存在完全共線性的條件下，最小平方法估計量仍具有

$$E(\hat{\beta}_j)=\beta_j$$

的無偏性。因此，共線性本身不必然造成估計量偏誤。

但共線性會使估計量的變異數增大。以第 $j$ 個斜率係數為例：

$$\operatorname{Var}(\hat{\beta}_j) = \frac{\sigma^2}{SST_j(1-R_j^2)},$$

其中

$$SST_j=\sum_{i=1}^n(X_{ji}-\bar X_j)^2,$$

而 $R_j^2$ 是將 $X_j$ 對其他解釋變數迴歸所得的決定係數。

當 $X_j$ 可由其他解釋變數高度解釋時，$R_j^2$ 接近 $1$，因此 $1-R_j^2$ 接近 $0$，使得

$$\operatorname{Var}(\hat{\beta}_j)$$

大幅增加。

4. 對統計推論的影響

共線性會造成下列結果：

1. $\hat{\beta}_j$ 的標準誤變大。
2. 個別迴歸係數的 $t$ 檢定較不容易達到顯著。
3. 信賴區間變寬，估計精確度降低。
4. 迴歸係數對樣本微小變動非常敏感。
5. 係數的正負號與大小可能不穩定，甚至出現違反實務直覺的結果。
6. 個別變數看似不顯著，但整體迴歸的 $F$ 檢定可能仍然顯著。
7. 係數解釋受到限制，難以清楚區分各解釋變數的邊際效果。
8. 數值計算上容易產生舍入誤差與不穩定問題。

5. 對整體模型的影響

共線性主要傷害「個別係數」的估計與推論，不一定嚴重降低整體模型的配適程度。因此，模型仍可能具有高 $R^2$、顯著的整體 $F$ 檢定與良好的樣本內預測能力，但單一變數的係數卻不顯著或不穩定。

對於樣本範圍內的平均反應值預測，共線性有時影響較小；但對個別係數解釋、外插預測及政策效果分析，影響通常較大。

---

（二）變異膨脹因子的定義及判斷準則

1. 輔助迴歸

針對第 $j$ 個解釋變數 $X_j$，將它作為被解釋變數，對其餘解釋變數進行輔助迴歸：

$$X_j=\alpha_0+\alpha_1X_1+\cdots+\alpha_{j-1}X_{j-1} +\alpha_{j+1}X_{j+1}+\cdots+\alpha_pX_p+u_j.$$

令此輔助迴歸的決定係數為 $R_j^2$。

$R_j^2$ 衡量 $X_j$ 有多少比例的變異可由其他解釋變數解釋：