112 高普考高考三級 教育行政 教育測驗與統計 考古題詳解
第 一 題25 分
某教育學者認為,COVID-19 疫情期間,大多數國民中小學校皆採行線上教學來代替實體教學。但是,線上教學的學習成效深受各種因素的影響與干擾,因此,他認為有必要重新制訂線上教學時,學習成績是否達到「及格」的通過標準。
請問:你會建議他該如何設定此通過標準?請至少列舉五項步驟的建議。
登入後即可作答並保存紀錄。
核心觀念
本題考查**效標設定(Standard Setting / Cut Score Setting)**的理論與實務程序,屬於教育測驗與統計中「測驗分數解釋」與「效標參照測驗(Criterion-Referenced Test, CRT)」的核心議題。
題目背景:COVID-19 改變教學情境,原有以實體教學為前提的通過標準(passing standard)可能已不再適用,故需重新制訂「及格切截分數(cut score)」。
關鍵概念區分:
- 常模參照(Norm-Referenced):以群體相對排名決定及格(如前60%通過),不適合此情境——因線上教學品質參差不齊,整體分數可能系統性偏低或偏高,常模會失真。
- 效標參照(Criterion-Referenced):以明確界定的學習標準為基準,判斷個別學生是否「達到」該標準,為本題建議採行之框架。
常用切截分數設定方法(後段解題方法中詳述):
| 方法 | 性質 | 適用時機 |
|---|---|---|
| Angoff 法 | 題目中心 | 選擇題、客觀測驗 |
| Bookmark 法 | 題目中心 | IRT 架構 |
| Contrasting Groups 法 | 受試者中心 | 有外在效標可比對 |
| Borderline Group 法 | 受試者中心 | 可識別邊緣能力學生 |
| Jaeger 法 | 題目中心 | 大規模評量 |
解題方法
本題為申論題,要求提出至少五項步驟。正確切入點是將「效標設定流程」系統化呈現,每一步驟都需扣合「線上教學」此特殊情境說明其必要性。以下依標準的效標設定程序逐步展開:
步驟一:確立測驗目的與學習目標(Define Purpose and Learning Objectives)
首先須明確界定「及格」所代表的意義。在線上教學情境下,需回答:
- 本次測驗的目的為何?(形成性評量 vs. 總結性評量;班級內部評量 vs. 跨校比較)
- 「及格」代表學生已習得哪些最低必要能力(minimum competency)?
- 線上教學所涵蓋的學習目標是否與實體教學等值?若目標已縮減或調整,通過標準亦應相應修訂。
此步驟確立效標設定的「概念準據」,若跳過此步,後續所有技術操作皆欠缺意義基礎。
步驟二:組建效標設定委員會(Assemble a Standard-Setting Panel)
效標設定不能由單一人員獨斷,必須組建跨背景的專家評審小組,成員應包括:
- 學科專家:了解線上教學下各年段的課程內容與難易度
- 現場教師:熟悉學生在線上學習情境中的實際表現與常見困難
- 測驗專家/統計人員:確保設定程序的技術合理性
- 行政代表(視需要):確保切截分數具政策可行性
線上教學期間,城鄉數位落差(digital divide)顯著,委員會成員亦應兼顧不同地區、不同學校資源背景的代表性,避免標準對弱勢族群系統性不公平。
步驟三:選擇並實施適切的效標設定方法(Select and Apply an Appropriate Standard-Setting Method)
依測驗形式與可用資訊,選擇以下一種或複數方法:
(A)Angoff 法(適用於選擇題或二元計分題型)
請每位委員對試卷上每一道題目,估計一位「剛好及格的最低能力學生(minimally competent student, MCS)」答對該題的機率 ,加總後得每位委員的建議切截分數:
再取所有委員的平均值作為最終切截分數:
在線上教學情境下,委員在評估 時,應明確以「接受線上教學的最低能力學生」為心智模型,而非以往實體教學的學生形象。
(B)Bookmark 法(適用於已建立 IRT 模型的測驗)
將所有題目依其 IRT 難度參數 (或 )由易至難排列成「有序題目本(Ordered Item Booklet, OIB)」,委員逐頁翻閱,在「一位最低能力學生有 67%(或 50%)機率答對」的題目處插入書籤(bookmark),書籤所對應的分數即為建議切截分數。
(C)Contrasting Groups 法(適用於已有外在效標時)
若能從教師的整體判斷,事先將學生分為「已達標」與「未達標」兩組,則在分數分布上分別繪製兩組的次數分配曲線,兩條曲線交叉點對應的分數即為最佳切截分數,此點使分類誤差(假陽性+假陰性)最小化。
第 二 題25 分
某市教育局舉辦一年一度的國小學生才藝競賽,並聘請兩位表演藝術專家針對 10 名進入總決賽的小學生才藝表演進行客觀的評分。這兩位專家針對這 10 名學生的評定名次如下表,請問:這兩位專家的評分間有無關聯性或一致性存在?
學生與兩位專家評定名次如下:
| 學生 | A | B | C | D | E | F | G | H | I | J |
|---|---|---|---|---|---|---|---|---|---|---|
| 甲專家 | 2 | 8 | 5 | 7 | 4 | 6 | 1 | 9 | 3 | 10 |
| 乙專家 | 5 | 4 | 1 | 8 | 3 | 7 | 6 | 10 | 2 | 9 |
查表的 值臨界值為:。
登入後即可作答並保存紀錄。
核心觀念
本題考查兩位評分者對同一批學生的「名次評定」是否具有關聯性,適合使用斯皮爾曼等級相關係數(Spearman’s rank correlation coefficient)分析。
因兩位專家均以第 1 名至第 10 名表示評定結果,且沒有同名次,因此可利用名次差公式:
其中:
- :兩位專家對同一學生評定名次之差
- :受評學生人數,本題
檢定假設為:
- ,兩位專家的評分無顯著關聯
- ,兩位專家的評分具有顯著關聯
題目提供 ,表示採雙尾檢定,顯著水準為 。
解題方法與計算
先計算各學生兩位專家名次之差及平方:
| 學生 | 甲專家 | 乙專家 | ||
|---|---|---|---|---|
| A | 2 | 5 | 9 | |
| B | 8 | 4 | 4 | 16 |
| C | 5 | 1 | 4 | 16 |
| D | 7 | 8 | 1 | |
| E | 4 | 3 | 1 | 1 |
| F | 6 | 7 | 1 | |
| G | 1 | 6 | 25 | |
| H | 9 | 10 | 1 | |
| I | 3 | 2 | 1 | 1 |
| J | 10 | 9 | 1 | 1 |
因此:
代入斯皮爾曼等級相關係數公式:
兩位專家評分的等級相關係數約為:
第 三 題25 分
某教育學者想知道某校六年級學生的平均身高,他自該校隨機抽取 9 名學生為樣本,並測得其身高分別為 140、142、140、143、139、140、141、142、141 公分(已計算出這 9 名學生身高的 、)。
請問:你會推估出該校六年級學生的平均身高之 95% 信賴區間(查閱 分配表,臨界值為 )為何?請寫出計算過程並說明你的答案。
登入後即可作答並保存紀錄。
核心觀念
本題考查單一母體平均數的區間估計,屬於推論統計(Inferential Statistics)的核心內容。涉及以下定義與公式:
為何使用 分配而非 分配?
當同時滿足以下兩個條件時,必須改用 分配:
- 母體標準差()未知,僅能以樣本標準差( 或 )估計。
- 樣本數偏小(),中央極限定理尚未充分發揮,無法以常態分配近似。
本題 ,且僅給出樣本 ,母體 未知,故採用 單樣本 信賴區間。
自由度(Degrees of Freedom, ):
95% 信賴區間公式:
其中:
- :樣本平均數(point estimate,點估計值)
- : 分配在顯著水準 、自由度 下的雙尾臨界值
- :平均數的標準誤(Standard Error of the Mean, )
解題方法
Step 1|確認已知數值
| 符號 | 意義 | 數值 |
|---|---|---|
| 樣本數 | ||
| 樣本平均數 | ||
| 樣本標準差 | ||
| 自由度 | ||
| 臨界值(95%,雙尾) |
Step 2|計算標準誤()
Step 3|計算誤差界限(Margin of Error, )
Step 4|建立 95% 信賴區間
第 四 題25 分
請解釋下列專有名詞:(每小題 5 分,共 25 分)
(一) 參數估計不變性(invariance of parameter estimation)
(二) 差異試題功能(differential item functioning)
(三) 可能值(plausible values)
(四) 效度量尺(validity scale)
(五) 試題特徵曲線(item characteristic curve)
登入後即可作答並保存紀錄。
(一) 參數估計不變性(Invariance of Parameter Estimation)
核心觀念
參數估計不變性是**試題反應理論(Item Response Theory, IRT)**的核心假設與特性之一,指的是:試題參數(item parameters)不隨受試樣本的能力分佈而改變;能力參數(person parameters)不隨所使用的試題組合而改變。換言之,無論用高能力組還是低能力組來估計試題難度,所得的難度參數(在標準誤許可範圍內)應當一致;同樣地,無論用難題組還是易題組來估計受試者能力,估計結果也應等值。
此特性在古典測驗理論(CTT)中不存在:CTT 的試題難度(通過率 )與鑑別度(點二系列相關 )都隨樣本能力高低而改變,受試者的觀察分數也隨試卷難易而浮動。IRT 的參數不變性正是其相對於 CTT 的最大優勢。
核心公式背景
以最常用的三參數羅吉斯模式(3PL)為例,受試者 在試題 上的正確反應機率為:
其中:
- :受試者能力參數
- :試題鑑別力(discrimination)
- :試題難度(difficulty),又稱位置參數
- :猜測參數(pseudo-guessing)
- (換算常數)
參數估計不變性保證:對不同 分佈的樣本估計出的 在經過線性等化轉換(因原點與單位不唯一,IRT 參數存在量尺不確定性)後,估計結果應收斂至相同真值。
重要補充:不變性的前提
- 模式契合(model fit):資料須符合所採用的 IRT 模式(單向度、局部獨立性)。
- 量尺等化(scale linking):不同校準樣本的參數需透過等化將量尺統一,方能比較。
- 不完全不變性的偵測:違反不變性時,即出現下述的「差異試題功能(DIF)」問題。
解題技巧
申論重點排序:①定義(試題參數不隨樣本、能力參數不隨試卷)→ ②與 CTT 對比(CTT 無此特性)→ ③意義(跨樣本、跨試卷比較成為可能,是電腦化適性測驗 CAT 及試題等化的基礎)→ ④前提條件。五分題寫到三層次即可拿滿。
【答案】參數估計不變性係指在 IRT 架構下,試題參數不受估計樣本能力分佈影響,能力參數不受所施測試題集合影響;此特性使跨組比較、試題等化與電腦化適性測驗成為可能,是 IRT 優於 CTT 的核心優勢。
(二) 差異試題功能(Differential Item Functioning, DIF)
核心觀念
差異試題功能(DIF)指的是:在能力(或潛在特質)相同的條件下,來自不同群體(如性別、族群、語言背景)的受試者,在某題上的答對機率仍存在系統性差異。
DIF 是測驗偏差(test bias)的必要但非充分條件:有 DIF 未必代表偏差(該差異可能反映真實的群體差異),但偏差題必然表現出 DIF。因此 DIF 分析是試題審查(item review)的客觀量化工具。
兩類 DIF
| 類型 | 說明 |
|---|---|
| 均勻 DIF(Uniform DIF) | 在所有能力水準上,參照組(reference group)與焦點組(focal group)的答對機率差異方向一致(試題特徵曲線不相交) |
| 非均勻 DIF(Non-Uniform DIF) | 差異方向因能力水準不同而改變(試題特徵曲線相交) |
主要偵測方法
① Mantel-Haenszel 法(MH 法)(最常用於大規模測驗,如學測)
以總分分層後,計算 列聯表的加權勝算比:
ETS 依 MH ()將 DIF 分為 A(可忽略)、B(中等)、C(嚴重)三級。
② IRT 為基礎的方法:比較兩組估計的試題參數(尤其 值)差異,或計算試題特徵曲線間的面積差。
③ 邏輯斯迴歸法(Logistic Regression):以群體、能力及其交互作用項預測答對機率,可同時偵測均勻與非均勻 DIF。
解題技巧
「DIF」與「試題偏差(item bias)」是考試常見混淆點:DIF 是統計現象(量化指標),試題偏差是價值判斷(內容專家審查後確認),兩者不可畫等號。答題時點明此區別可顯示深度。
【答案】DIF 指在相同能力水準下不同群體答對率仍有系統性差異的試題現象,分均勻與非均勻兩類,常以 Mantel-Haenszel 法、IRT 法或邏輯斯迴歸法偵測;DIF 是偵測測驗偏差的統計工具,但有 DIF 不等同於有偏差,需輔以內容審查判斷。
(三) 可能值(Plausible Values, PVs)
核心觀念
可能值是大規模評量(如 PISA、TIMSS、NAEP)中,為解決「矩陣樣本設計(matrix sampling design)導致每位受試者只作答部分試題、個別能力估計誤差偏大」此問題而發展出的多重插補(multiple imputation)技術。
在矩陣取樣設計下,每位受試者僅作答一個試題本中的少數試題,若直接以 IRT 估計個人能力 ,後驗分佈(posterior distribution)過寬、不確定性極高。可能值的做法是:不估計單一能力值,而是從每位受試者的後驗能力分佈中隨機抽取 個值(通常 或 10),每個值都是一個「可能的」能力估計,稱為一組可能值。
統計原理
設受試者的後驗分佈為:
其中 為作答向量, 為背景變數(性別、SES 等)所構成的條件常態先驗(conditioning model)。
從此後驗分佈中抽取 組 PV,對每組 PV 進行統計分析後,依 Rubin's Rules 合併估計值與標準誤: