111 地方特考三等 統計 迴歸分析 考古題詳解
第 一 題
一位統計分析師想瞭解身高 (以英寸為單位)是否可以用手掌張開長度 (以公分為單位)和性別 (男性是 ,女性是 )來預測?他收集 名大學生為樣本。所配適的線性迴歸模型如下:
請依據表 1 回答下列問題。
表 1:ANOVA
| Source | Sum of Squares | DF | Mean square | F test |
|---|---|---|---|---|
| Regression | ||||
| Error | (1) | (3) | (5) | |
| (Lack of fit) | (2) | (4) | ||
| (Pure error) | ||||
| Total |
(一)請計算表 1 中(1)至(5)所列的線性迴歸之 ANOVA 相關資訊。(10 分)
(二)在顯著水準 下,請檢定身高是否與手掌張開長度 和性別 有線性關係存在。請列出虛無假設/對立假設、檢定統計量及決策法則。在無需查表之下,你的建議結論為何?(5 分)
(三)在顯著水準 下,請檢定線性迴歸模型是否有顯著的缺適(lack of fit)?以了解線性迴歸模型是否足以描述身高與手掌張開長度 和性別 之間的關係。請列出虛無假設/對立假設、檢定統計量及決策法則。在無需查表之下,你的建議結論為何?請說明缺適檢定所需要之假設。(10 分)
登入後即可作答並保存紀錄。
核心觀念
本題考兩種迴歸 ANOVA 檢定:
- 整體迴歸檢定:檢查手掌張開長度 與性別 是否至少有一個與身高 有線性關係。
- 缺適檢定(lack-of-fit test):利用相同解釋變數設定下的重複觀測,將殘差平方和分為「缺適平方和」與「純誤差平方和」,檢查指定的線性模型是否足以描述平均反應。
本題的樣本數為 ,迴歸模型包含截距及兩個斜率參數,因此迴歸參數個數為 。
(一)填列 ANOVA 表
解題方法
總平方和可分解為迴歸平方和與誤差平方和:
誤差自由度為總自由度扣除迴歸自由度;缺適平方和與自由度則分別由誤差部分扣除純誤差部分。均方等於平方和除以自由度。
計算
誤差平方和:
誤差自由度:
缺適平方和:
缺適自由度:
誤差均方:
因此表中各空格為:
| 空格 | 數值 | 說明 |
|---|---|---|
| (1) | 誤差平方和 | |
| (2) | 缺適平方和 | |
| (3) | 誤差自由度 | |
| (4) | 缺適自由度 | |
| (5) | 誤差均方 |
(二)整體迴歸檢定
假設
檢定統計量與決策
整體迴歸檢定統計量為:
其中:
所以:
在顯著水準 下,當 時拒絕 。即使不查表, 仍遠大於此檢定的 臨界值,因此拒絕 。
結論
第 二 題
一位統計分析師分析奧林匹克男子田徑短跑 公尺數據,包含 年至 年間舉行的 次男子 公尺奧林匹克短跑比賽獲金牌的秒數,其中第一次和第二次世界大戰期間沒有舉辦奧運會,而 年奧林匹克運動會因為 COVID-19 疫情實際是 年在日本東京舉行。因此資料包含 year(以年為單位)和 (以秒為單位),其散布圖如下:
🖼️【此處有附圖,請對照原卷】
圖 1:奧林匹克年分和男子田徑短跑 公尺秒數散布圖
這位統計分析師重新定義變數,他把「西元年(year)」平減 ,並定義新的解釋變數 ,也就是 。樣本相關資訊如下,其中 為樣本數:
(一)請計算 的皮爾森相關係數。(5 分)
(二)該統計分析師配適模型 ,此處 是誤差項。請寫出以最小平方法所得到的估計迴歸線,並推導其變異數 和 ,也就是 。(10 分)
(三)在顯著水準 之下,請檢定 是否顯著?請詳述檢定統計量之值、決策法則和結論。請問年份和獲金牌的秒數之間是否存在線性關係?以此資料是否可以推論人類在田徑短跑越跑越快? 分配臨界值,,。(10 分)
登入後即可作答並保存紀錄。
核心觀念
本題考查皮爾森相關係數、簡單線性迴歸的最小平方法估計、迴歸係數的變異數與共變異數,以及斜率的 檢定。
令 ,題目給定的離均差平方和與乘積和為 、、。簡單線性迴歸的斜率估計量為 ,截距估計量為 。
(一)皮爾森相關係數
皮爾森相關係數為
因此, 與 呈高度負相關。
(二)最小平方法迴歸線與係數變異數、共變異數
斜率估計值為
截距估計值為
故估計迴歸線為
因為 ,斜率表示年份每增加一年,奧運男子 200 公尺金牌成績的估計秒數平均減少約 秒;截距則是 ,即 1963 年時的估計秒數。
在誤差項互相獨立、變異數相同且為 的假設下,
因此,
題目未提供 ,以殘差均方 估計。先計算殘差平方和:
自由度為 ,所以
第 三 題
一位統計分析師受託分析 名年齡 歲高血壓患者的血壓相關數據,以評估可能影響血壓的重要因素,資料描述如下:
- 血壓 :反應變數,以 mm Hg 為單位。
- 年齡 :以年為單位。
- 重量 :以公斤為單位。
- 體表面積 :以平方公尺為單位。
- 高血壓病史 :以年為單位。
- 基礎脈搏 :以每分鐘為單位。
- 壓力指數 :範圍為 至 。
部分統計套裝軟體輸出結果在表 2 和表 3。
表 2
| 反應變數 | 5 個解釋變數 | 判定係數 |
|---|---|---|
| – | ||
| , – | ||
| –, – | ||
| –, – | ||
| –, | ||
| – |
表 3
| 解釋變數 | Type I SS | 偏判定係數 |
|---|---|---|
(一)這位分析師一開始採用下列模型 1 的複迴歸分析,他擔心有多重共線性(Multicollinearity)問題。
模型 1:
請協助這位分析師利用表 2 判斷是否有嚴重的多重共線性,並說明模型 1 是否合適?如果不合適,請詳細說明原因和判斷方法。(5 分)
(二)表 3 第二欄的定義,若 代表給定 已在模型中, 加入模型中的額外平方和(extra sum of squares)。請計算:
最後一欄符號代表偏判定係數(coefficient of partial determination)。請說明偏判定係數 的計算式及其意義。請利用表 3 結果,建議分析師採用那些變數,詳細說明理由和判斷方法。(10 分)
(三)請利用表 3 結果及 、,計算:
和偏判定係數:
(10 分)
登入後即可作答並保存紀錄。
核心觀念
本題考查三個觀念:
-
多重共線性:看解釋變數彼此能否被其他解釋變數高度解釋。表 2 的 是以 為反應變數、其餘五個解釋變數為自變數所得的判定係數,可用來計算變異膨脹因子: 常用判斷基準是 ,表示有嚴重多重共線性的疑慮。
-
額外平方和與偏判定係數:額外平方和衡量在既有變數之外再加入一個變數,使迴歸平方和增加多少;偏判定係數衡量該變數在控制既有變數後,能解釋剩餘變異的比例。
-
變數選擇:比較各變數加入模型後的額外平方和及偏判定係數,判斷其在已納入變數之後還提供多少解釋力。Type I SS 會受變數進入順序影響。
(一)利用表 2 判斷多重共線性
依表 2 計算各變數的 VIF:
| 變數 | ||
|---|---|---|
| 0.451 | 1.82 | |
| 0.925 | 13.33 | |
| 0.905 | 10.53 | |
| 0.196 | 1.24 | |
| 0.754 | 4.07 | |
| 0.416 | 1.71 |
和 的 VIF 都超過 10,顯示重量與體表面積分別可被其他解釋變數高度解釋,模型有嚴重多重共線性的疑慮。
因此,模型 1 不宜不加處理就直接用來解釋個別迴歸係數。多重共線性會使係數估計的變異變大,造成係數不穩定、標準誤偏大,個別係數的檢定與解釋較不可靠;但它本身不代表模型整體的預測能力必然差。可考慮檢視 、 的相關性及研究意義,刪除其中一項或採取其他處理,再重新估計模型。
(二)計算全模型 SSR、說明偏判定係數並建議變數
1. 全模型的
依序加入各變數時,總迴歸平方和等於各項 Type I SS 的總和:
2. 偏判定係數
偏判定係數可寫為:
等價地,它是加入 前後殘差平方和減少的比例:
表 3 給出 ,意即在已控制 後, 約能解釋原先剩餘變異的 。
3. 變數建議
依表 3 的 Type I SS 與偏判定係數判讀:
- 保留 :兩者的額外平方和分別為 、,解釋力明顯;偏判定係數也分別為 、。
第 四 題
一位教師擬瞭解學生的測試表現是否受智商和教學方法所影響,以 名學生為實驗對象,在採用三種教學方法之下,獲得測試成績 、智商 。前兩種教學方法 、 變數定義如下:
這位教師分別考慮的模型如下:
模型 1:
模型 2:
模型 3:
請使用表 4 部分電腦輸出 3 個模型的變異數分析(ANOVA,Analysis of Variance)報表來回答下列問題。
(一)在考慮模型 3 之下,請檢定智商 該解釋變數對於解釋測試成績是否有顯著的解釋能力。請用顯著水準 檢定並詳述檢定統計量之值、決策法則、結論和所需的假設。 分配臨界值,。(10 分)
(二)在考慮模型 3 之下,請檢定教學方法 和 這兩個虛擬變數是否在模型 3 對預測學生測試成績有較佳效果。請在顯著水準 ,檢定 ,詳請述檢定統計量之值、決策法則、結論和所需的假設。 分配左尾臨界值,,。(10 分)
(三)請使用表 4 說明哪一種教學方法最能提升測試成績,須說明論述。(5 分)
表 4
模型 1 ANOVA 表
| Source | DF | Sum of Squares | Mean Square | F value | P-value |
|---|---|---|---|---|---|
| Regression | |||||
| Error | |||||
| Total |
模型 2 ANOVA 表
| Source | DF | Sum of Squares | Mean Square | F value | P-value |
|---|---|---|---|---|---|
| Regression | P-value | ||||
| Error | |||||
| Total |
模型 3 ANOVA 表和參數估計
| Source | DF | Sum of Squares | Mean Square | F value | P-value |
|---|---|---|---|---|---|
| Regression | |||||
| Error | |||||
| Total |
模型 3 參數估計
| Variable | DF | Estimate | Standard Error | t value | P-value |
|---|---|---|---|---|---|
| Intercept | |||||
登入後即可作答並保存紀錄。
核心觀念
本題考查多元線性迴歸中的個別係數檢定、巢狀模型的部分 檢定,以及虛擬變數係數的解讀。
模型 3 以教學法 3 為參照組,因為 時代表教學法 3。模型 3 的迴歸式為
檢定單一係數是否為零,使用 檢定;同時檢定多個係數是否為零,使用部分 檢定。參數檢定的精確推論假設包括:模型形式正確、誤差項獨立且常態分配、變異數固定,以及解釋變數沒有完全共線性。若要將教學方法的差異解釋為因果效果,還需有隨機分派或其他足以控制混淆因素的設計。
解題方法與計算
(一)檢定智商 的解釋能力
在控制教學方法後,檢定智商的迴歸係數是否為零:
由模型 3 參數估計表,、標準誤為 ,因此
誤差自由度為 。雙尾檢定在 下,決策法則為
因為 ,故拒絕 。在控制教學方法後,智商對測試成績有顯著的線性解釋能力;估計係數為正,表示智商每增加一單位,預測測試成績平均增加 單位。表中 ,亦支持此結論。
(二)聯合檢定兩個教學方法虛擬變數
檢定教學方法變數在模型 3 中是否具有聯合解釋能力:
虛無假設下的約化模型是模型 1,只保留智商 ;完整模型是模型 3。部分 統計量為
其中 。由表中資料,、、,所以