108 年高普考高考三級統計考古題與詳解

Question 1

考慮下列涉及 3 條可能不同截距但相同斜率之直線的簡單線性迴歸模型： $$ y{1i}=\beta{01}+\beta1x{1i}+\epsilon{1i}, $$ $$ y{2i}=\beta{02}+\beta1x{2i}+\epsilon{2i}, $$ $$ y{3i}=1+\beta1x{3i}+\epsilon{3i}, $$ 其中 $i=1,\ldots,n$。 其中 $\epsilon{11},\ldots,\epsilon{1n},\epsilon{21},\ldots,\epsilon{2n},\epsilon{31},\ldots,\epsilon{3n}$ 為彼此獨立且期望值為 0、變異數皆為 $\sigma^2$ 的隨機誤差。 請利用上述所有資料求出 $\beta{01},\beta{02},\beta1$ 的最小平方估計量（least squares estimator）$\hat{\beta}{01},\hat{\beta}{02},\hat{\beta}1$，及 $\hat{\beta}1$ 的變異數 $\operatorname{Var}(\hat{\beta}1)$。

Accepted Answer

核心觀念 這題考「不同組別有部分截距、但共用斜率」的最小平方法。第 1、2 組的截距未知，要由資料估計；第 3 組的截距已固定為 $1$，不能再替第 3 組估計截距。因此，前兩組的斜率資訊來自組內中心化後的資料，第 3 組則須直接以 $y{3i}-1$ 對 $x{3i}$ 計算。 令 $$ \bar{x}g=\frac{1}{n}\sum{i=1}^n x{gi},\qquad \bar{y}g=\frac{1}{n}\sum{i=1}^n y{gi},\qquad g=1,2, $$ 並定義 $$ S{xx,g}=\sum{i=1}^n(x{gi}-\bar{x}g)^2,\qquad S{xy,g}=\sum{i=1}^n(x{gi}-\bar{x}g)(y{gi}-\bar{y}g). $$ 解題方法 最小化殘差平方和 $$ Q(\beta{01},\beta{02},\beta1) = \sum{i=1}^n(y{1i}-\beta{01}-\beta1x{1i})^2 +\sum{i=1}^n(y{2i}-\beta{02}-\beta1x{2i})^2 +\sum{i=1}^n(y{3i}-1-\beta1x{3i})^2. $$ 先對 $\beta{01}$、$\beta{02}$ 分別微分並令其為零，可得 $$ \hat{\beta}{01}=\bar{y}1-\hat{\beta}1\bar{x}1,\qquad \hat{\beta}{02}=\bar{y}2-\hat{\beta}1\bar{x}2. $$ 將兩個截距估計量代回 $Q$，再對 $\beta1$ 微分。前兩組中心化後的斜率項分別為 $S{xy,1}$、$S{xy,2}$；第三組截距固定為 $1$，其斜率項為 $\sum{i=1}^n x{3i}(y{3i}-1)$。因此 $$ \hat{\beta}1 = \frac{ S{xy,1}+S{xy,2}+\displaystyle\sum{i=1}^n x{3i}(y{3i}-1) }{ S{xx,1}+S{xx,2}+\displaystyle\sum{i=1}^n x{3i}^2 }. $$

Question 2

以下是關於模式選取及模式診斷的問題。 （一）下表為給定 4 種不同迴歸模式來配適 13 組資料 $(yi,x{i1},x{i2},x{i3})$，$i=1,\ldots,13$，所得的 AIC（Akaike’s information criterion，赤池訊息標準）值。 | 模式 | 模式中的解釋變數 | AIC | BIC | |---|---|---:|---:| | A | $X1,X2$ | 25.41 | (1) | | B | $X1,X3$ | 65.11 | (2) | | C | $X2,X3$ | 51.03 | 52.72 | | D | $X1,X2,X3$ | 25.03 | (3) | 其中 $x{ij}$ 為解釋變數 $Xj$ 的資料值，$j=1,2,3$。隨機誤差 $\epsilon1,\ldots,\epsilon{13}$ 為彼此獨立、期望值為 0、變異數皆為 $\sigma^2$ 的常態分配。 請完成上表並利用 AIC 及 BIC（Bayesian information criterion，貝氏訊息標準）來選取最適合的模式。 已知： $$ \log(2)=0.69,\quad \log(3)=1.1,\quad \log(4)=1.39, $$ $$ \log(9)=2.2,\quad \log(10)=2.3,\quad \log(13)=2.56。 $$ （二）考慮下列複迴歸模式： $$ yi=\beta0+\beta1x{i1}+\beta2x{i2}+\beta3x{i3}+\epsiloni,\quad i=1,\ldots,100, $$ 其中隨機誤差 $\epsilon1,\ldots,\epsilon{100}$ 為彼此獨立、期望值為 0，而變異數皆為 $\sigma^2$ 的常態分配。 下列的殘差圖（residu…

Accepted Answer

核心觀念 AIC 與 BIC 都是在衡量模型配適程度並懲罰模型複雜度，數值愈小愈好。常用公式為 $$ \mathrm{AIC}=-2\ell+2k,\qquad \mathrm{BIC}=-2\ell+k\log n, $$ 其中 $\ell$ 是最大概似值，$n$ 是樣本數，$k$ 是此題計入資訊量準則懲罰項的參數數目。因此 $$ \mathrm{BIC}-\mathrm{AIC}=k(\log n-2). $$ 本題的表格數值顯示，含截距的迴歸係數計入 $k$：含兩個解釋變數時 $k=3$，含三個解釋變數時 $k=4$。樣本數為 $n=13$。 殘差圖則用來檢查模型假設與配適狀況，例如線性型態、變異數是否固定，以及誤差是否有時間相依性。殘差對解釋變數、配適值或觀測順序作圖，皆有診斷用途；殘差對反應變數作圖則會受到兩者的代數關係影響。 （一）完成 AIC、BIC 表並選模 對含兩個解釋變數的模式，$k=3$，所以 $$ \mathrm{BIC}-\mathrm{AIC} =3(\log 13-2). $$ 用未四捨五入的 $\log 13$ 計算，差值約為 $1.69$。因此： - 模式 A：$25.41+1.69=27.10$。 - 模式 B：$65.11+1.69=66.80$。 - 模式 C：題目已給 BIC $=52.72$。 模式 D 含三個解釋變數，$k=4$，故 $$ \mathrm{BIC}-\mathrm{AIC} =4(\log 13-2)\approx 2.26, $$ 所以模式 D 的 BIC 為 $25.03+2.26=27.29$。 | 模式 | AIC | BIC | |---|---:|---:| | A | 25.41 | 27.10 | | B | 65.11 | 66.80 | | C | 51.03 | 52.72 | | D | 25.03 | 27.29 |

Question 3

某跨國企業 A 公司，其資料科學家利用下列複迴歸模式： $$ yi=\beta0+\beta1xi+\beta2zi+\epsiloni,\quad i=1,\ldots,10, $$ 來分析該公司一產品的銷售額變化量和該公司此產品價格變化量與競爭對手 B 公司其相對競爭產品價格變化量的關係，其中 $yi$ 為 A 公司在第 $i$ 個地區的銷售額變化量，$xi$ 為 A 公司的產品在第 $i$ 個地區的價格變化量，$zi$ 為 B 公司的競爭產品在第 $i$ 個地區的價格變化量，而隨機誤差 $\epsilon1,\ldots,\epsilon{10}$ 為彼此獨立、期望值為 0，且變異數皆為 $\sigma^2$ 的常態分配。 給定銷售額變化量 $y1,\ldots,y{10}$ 及下列解釋變數矩陣 $X$ 與反應變數向量 $Y$ 的相關資訊： $$ X^tX= \begin{bmatrix} 10&0&0\ 0&20&0\ 0&0&20 \end{bmatrix}, \qquad X^tY= \begin{bmatrix} 28\ -20\ 12 \end{bmatrix}, $$ $$ \bar{y}=\frac{\sum{i=1}^{10}yi}{10}=2.8, \qquad \sum{i=1}^{10}yi^2=130。 $$ 其中： $$ X= \begin{bmatrix} 1&x1&z1\ 1&x2&z2\ \vdots&\vdots&\vdots\ 1&x{10}&z{10} \end{bmatrix}, \qquad Y= \begin{bmatrix} y1\ y2\ \vdots\ y{10} \end{bmatrix}, $$ 以及 $X^t$ 為矩陣 $X$ 的轉置矩陣。 （一）計算判定係數（coefficient of d…

Accepted Answer

核心觀念

本題考查複迴歸的最小平方法估計、判定係數、整體迴歸的 $F$ 檢定、單一線性限制的 $F$ 檢定，以及平均反應的信賴區間。

已知模型含截距，且 $X^tX$ 為對角矩陣，因此

\hat{\boldsymbol\beta} =(X^tX)^{-1}X^tY。

迴歸平方和、總平方和與誤差平方和分別為

SSR=\hat{\boldsymbol\beta}^{\,t}X^tY-n\bar y^2,\qquad SST=\sum_{i=1}^n y_i^2-n\bar y^2,\qquad SSE=SST-SSR。

整體迴歸檢定統計量為 $F=(SSR/p)/(SSE/(n-p-1))$ ；單一線性限制 $H_0:\boldsymbol c^t\boldsymbol\beta=0$ 的檢定統計量為

F=\frac{(\boldsymbol c^t\hat{\boldsymbol\beta})^2} {\widehat{\sigma}^2\boldsymbol c^t(X^tX)^{-1}\boldsymbol c}, \qquad \widehat{\sigma}^2=MSE=\frac{SSE}{n-p-1}。

解題方法與計算

先由矩陣資訊求迴歸係數估計值：

\hat{\boldsymbol\beta} = \begin{bmatrix} 1/10&0&0\\ 0&1/20&0\\ 0&0&1/20 \end{bmatrix} \begin{bmatrix} 28\\-20\\12 \end{bmatrix} = \begin{bmatrix} 2.8\\-1\\0.6 \end{bmatrix}。

因此配適迴歸式為 $\hat y_i=2.8-x_i+0.6z_i$ 。

（一）計算 $R^2$ 與 $r_{y\hat y}$

總平方和為

SST=130-10(2.8)^2=51.6。

未校正的配適平方量為

\hat{\boldsymbol\beta}^{\,t}X^tY =2.8(28)+(-1)(-20)+0.6(12)=105.6。

故迴歸平方和為

SSR=105.6-10(2.8)^2=27.2,

而誤差平方和為

SSE=SST-SSR=51.6-27.2=24.4。

所以

R^2=\frac{SSR}{SST}=\frac{27.2}{51.6}\approx 0.5271。

含截距的最小平方法中，觀察值與配適值的相關係數為 $r_{y\hat y}=\sqrt{R^2}$ ，且為正，因此

r_{y\hat y}=\sqrt{0.5271}\approx 0.7260。

（二）整體迴歸 $F$ 檢定與 ANOVA 表

迴歸項數 $p=2$ ，樣本數 $n=10$ ，故迴歸、誤差、總和的自由度依序為 $2$ 、 $10-2-1=7$ 、 $9$ 。均方和與 $F$ 值為

MSR=\frac{27.2}{2}=13.6,\qquad MSE=\frac{24.4}{7}\approx3.4857,

F=\frac{13.6}{3.4857}\approx3.9016。

在 $\alpha=0.05$ 下，臨界值 $F_{0.95}(2,7)\approx4.737$ 。因 $3.9016<4.737$ ，不拒絕 $H_0$ ；在 5% 顯著水準下，沒有足夠證據認定 $\beta_1,\beta_2$ 至少有一個不為 0。

Question 4

下列是關於配適模式不正確時造成的影響以及模式適合度問題。

（一）某統計學家欲調查某一地區的當年新生人口與當年經濟成長率的關係是線性或是牽涉到更高的次方關係。此統計學家蒐集了下列在不同經濟成長率 $x_i$ （單位為 %）的新生人口資料 $y_i$ （單位為萬人）， $i=1,\ldots,7$ ：

$y_i$	$y_1=20$	$y_2=22$	$y_3=26$	$y_4=30$	$y_5=37$	$y_6=39$	$y_7=42$
$x_i$	$x_1=-5$	$x_2=-3$	$x_3=-1$	$x_4=0$	$x_5=1$	$x_6=3$	$x_7=5$

並利用下列兩種迴歸模式來配適資料：

模式 A：

y_i=\beta_0+\beta_1x_i+\epsilon_i。

模式 B：

y_i=\beta_0+\beta_1x_i+\beta_2x_i^2+\beta_3x_i^3+\epsilon_i。

其中 $\epsilon_1,\ldots,\epsilon_7$ 為彼此獨立且期望值為 0、變異數皆為 $\sigma^2$ 的隨機誤差。

但是，真正的迴歸模式是：

y_i=\beta_0+\beta_1x_i+\beta_2x_i^2+\epsilon_i。

如果 $\hat{\beta}_{0A}$ 及 $\hat{\beta}_{1A}$ 為使用模式 A 所得之 $\beta_0$ 及 $\beta_1$ 的最小平方估計量（least squares estimator），而 $\hat{\beta}_{0B}$ 、 $\hat{\beta}_{1B}$ 及 $\hat{\beta}_{2B}$ 為使用模式 B 所得之 $\beta_0$ 、 $\beta_1$ 及 $\beta_2$ 的最小平方估計量，請得到這些估計量的期望值向量，即

\begin{bmatrix} E(\hat{\beta}_{0A})\\ E(\hat{\beta}_{1A}) \end{bmatrix}

及

\begin{bmatrix} E(\hat{\beta}_{0B})\\ E(\hat{\beta}_{1B})\\ E(\hat{\beta}_{2B}) \end{bmatrix}。

（二）針對模式 A，請問是否可利用此統計學家所蒐集的資料作模式缺適檢定（lack of fit test）？如果可，請算出檢定統計量的值；如果不可，請解釋原因。

Accepted Answer

核心觀念 本題考兩個觀念： 1. 模型設定錯誤時最小平方法估計量的期望值：若真實模型為 $Y=XT\beta+\epsilon$，以另一個設計矩陣 $X$ 配適，則 $$ E(\hat{\beta})=(X'X)^{-1}X'XT\beta, $$ 因為 $E(\epsilon)=0$。若配適模型漏掉真實模型中的解釋項，估計量的期望值會受到被漏掉項目的投影影響。 2. 模式缺適檢定（lack of fit test）：此檢定須將殘差平方和拆成「缺適平方和」與「純誤差平方和」。純誤差須由相同 $x$ 值下的重複觀測估計。 （一）估計量的期望值向量 令真實模型為 $$ yi=\beta0+\beta1xi+\beta2xi^2+\epsiloni. $$ 資料中的 $xi$ 對稱分布於 0，因此 $$ \sum{i=1}^7 xi=0,\qquad \sum{i=1}^7 xi^3=0,\qquad \sum{i=1}^7 xi^2=25+9+1+0+1+9+25=70. $$ 模式 A：線性模型 模式 A 的設計矩陣欄向量為 $1$ 與 $x$。其最小平方估計量為 $$ \begin{bmatrix} \hat{\beta}{0A}\ \hat{\beta}{1A} \end{bmatrix} = \begin{bmatrix} 7&0\ 0&70 \end{bmatrix}^{-1} \begin{bmatrix} \sum yi\ \sum xi yi \end{bmatrix}. $$ 代入真實模型並取期望值： $$ E(\hat{\beta}{0A}) =\beta0+\beta1\frac{\sum xi}{7} +\beta2\frac{\sum xi^2}{7} =\beta0+10\beta2, $$ $$ E(\hat{\beta}{1A}) =\beta1+\beta2\frac{\sum xi^3}{\sum xi^2} =\beta1. $$ 所以 $$ \boxed{ \begin{bmatrix} E(\hat{\beta}{0A})\ E(\hat{\beta}{1A}) \end{bmatrix} = \begin{bmatrix} \beta0+10\beta2\ \beta1 \end{bmatrix}} $$ 截距吸收了被模式 A 遺漏的二次項平均效果；由於 $\sum xi^3=0$，斜率估計量的期望值不受二次項影響。

Question 5

某工業研究所欲研究某反應過程所散發之熱能 $Y$ 與某化合物含量 $X$ 間的關係。利用簡單線性迴歸模式： $$ yi=\beta0+\beta1xi+\epsiloni,\quad i=1,\ldots,5, $$ 其中 $yi$ 為第 $i$ 次反應過程所散發熱量之測量值，$xi$ 為第 $i$ 次反應過程此化合物含量，且隨機誤差 $\epsilon1,\ldots,\epsilon5$ 為彼此獨立、期望值為 0、變異數皆為 $\sigma^2$ 的常態分配。 根據 5 次反應過程所得之資料，可得估計迴歸關係式為： $$ \hat{y}=0.2+2.6x， $$ 且判定係數（coefficient of determination）$R^2$ 為 $0.845$。 （一）計算調整判定係數（adjusted coefficient of determination）及 $x1,\ldots,x5$ 與 $y1,\ldots,y5$ 的相關係數（coefficient of correlation）。 （二）在顯著水準 $\alpha=0.05$，利用 $F$ 檢定法檢定 $$ H0:\beta1=0 $$ 及 $$ H1:\beta1
eq 0。 $$ （三）計算 $\beta1$ 的 95% 信賴區間估計。 （四）$\hat{\beta}0$ 為 $\beta0$ 的最小平方估計量（least squares estimator），且給定 $\hat{\beta}0$ 的標準誤為 $2.13$。在顯著水準 $\alpha=0.05$，利用 $t$ 檢定法檢定 $$ H0:\beta0\geq 4 $$ 及 $$ H1:\beta0<4。 $$

Accepted Answer

核心觀念 本題評量簡單線性迴歸（Simple Linear Regression, SLR）的基礎理論與統計推論，涉及四大核心觀念： 1. 判定係數與相關係數之關聯： - 樣本相關係數 $r$ 與判定係數 $R^2$ 滿足 $r = 	ext{sgn}(\hat{\beta}1)\sqrt{R^2}$，符號取決於斜率估計值 $\hat{\beta}1$。 - 調整判定係數公式為 $Ra^2 = 1 - \left(\frac{n-1}{n-p-1}ight)(1 - R^2)$，其中樣本數 $n=5$，自變數個數 $p=1$。 2. 變異數分析（ANOVA）與整體顯著性 $F$ 檢定： - 檢定 $H0:\beta1=0$ 時，檢定統計量可直接由 $R^2$ 表示： $$F^ = \frac{MSR}{MSE} = \frac{R^2 / 1}{(1 - R^2) / (n - 2)} \sim F(1, n-2)$$ 3. 斜率之信賴區間與 $t$ 檢定／$F$ 檢定的等價性： - 在簡單線性迴歸中，檢定斜率的 $t$ 統計量與 $F$ 統計量滿足 $(t^)^2 = F^$。 - 藉由已知之 $\hat{\beta}1$ 與 $F^$，可逆推求得標準誤 $SE(\hat{\beta}1) = \frac{\hat{\beta}1}{\sqrt{F^}}$，進而建構信賴區間 $\hat{\beta}1 \pm t{\alpha/2}(n-2) \cdot SE(\hat{\beta}1)$。 4. 截距項之單尾 $t$ 檢定： - 檢定統計量為 $t^ = \frac{\hat{\beta}0 - \beta{0,0}}{SE(\hat{\beta}0)} \sim t(n-2)$，左尾檢定拒絕域為 $t^ < -t{\alpha}(n-2)$。 --- 解題方法 由題意可知：樣本數 $n = 5$、迴歸方程式為 $\hat{y} = 0.2 + 2.6x$（即 $\hat{\beta}0 = 0.2$、$\hat{\beta}1 = 2.6$）、判定係數 $R^2 = 0.845$、殘差自由度 $df = n - 2 = 5 - 2 = 3$。 （一）計算調整判定係數 $Ra^2$ 及相關係數 $r$ 1. 調整判定係數（Adjusted $R^2$）： $$Ra^2 = 1 - \frac{n - 1}{n - 2}(1 - R^2)$$ 帶入數值： $$Ra^2 = 1 - \frac{5 - 1}{5 - 2}(1 - 0.845) = 1 - \frac{4}{3} 	imes 0.155 = 1 - 0.2067 = 0.7933$$ 2. 相關係數（Coefficient of Correlation）： 在簡單線性迴歸中，$r =…

108 高普考高考三級統計迴歸分析考古題詳解

第一題20 分

第二題15 分

第三題35 分

核心觀念

解題方法與計算

（一）計算 $R^2$ 與 $r_{y\hat y}$

（二）整體迴歸 $F$ 檢定與 ANOVA 表

第四題10 分

核心觀念

（一）估計量的期望值向量

模式 A：線性模型

第五題20 分

核心觀念

解題方法

（一）計算調整判定係數 $R_a^2$ 及相關係數 $r$

（二）利用 $F$ 檢定法檢定 $H_0:\beta_1=0$ vs $H_1:\beta_1\neq 0$ （ $\alpha=0.05$ ）

（三）計算 $\beta_1$ 的 95% 信賴區間估計

其他考古題

108 年統計的其他科目

統計《迴歸分析》其他年度

來源（source）	自由度（degree of freedom）	平方和（sum of squares）	均方和（mean square）	$F$ 統計量
迴歸	(1)	(4)	(7)	(9)
誤差	(2)	(5)	(8)
總和	(3)	(6)

108 高普考高考三級 統計 迴歸分析 考古題詳解

第 一 題20 分

第 二 題15 分

第 三 題35 分

核心觀念

解題方法與計算

（一）計算 R2R^2R2 與 ryy^r_{y\hat y}ryy^​​

（二）整體迴歸 FFF 檢定與 ANOVA 表

第 四 題10 分

核心觀念

（一）估計量的期望值向量

模式 A：線性模型

第 五 題20 分

核心觀念

解題方法

（一）計算調整判定係數 Ra2R_a^2Ra2​ 及相關係數 rrr

（二）利用 FFF 檢定法檢定 H0:β1=0H_0:\beta_1=0H0​:β1​=0 vs H1:β1≠0H_1:\beta_1\neq 0H1​:β1​=0（α=0.05\alpha=0.05α=0.05）

（三）計算 β1\beta_1β1​ 的 95% 信賴區間估計

其他考古題

108 年統計的其他科目

統計《迴歸分析》其他年度

108 高普考高考三級統計迴歸分析考古題詳解

第一題20 分

第二題15 分

第三題35 分

（一）計算 $R^2$ 與 $r_{y\hat y}$

（二）整體迴歸 $F$ 檢定與 ANOVA 表

第四題10 分

第五題20 分

（一）計算調整判定係數 $R_a^2$ 及相關係數 $r$

（二）利用 $F$ 檢定法檢定 $H_0:\beta_1=0$ vs $H_1:\beta_1\neq 0$ （ $\alpha=0.05$ ）

（三）計算 $\beta_1$ 的 95% 信賴區間估計