数学I / データの分析
外れ値の判定と平均値への影響
問題
10個のデータ
について、次の問いに答えよ。ただし、「 未満、または より大きい値」を外れ値とする。
(1) 第1四分位数 、第3四分位数 を求め、外れ値を判定せよ。
(2) このデータ全体の平均値と、外れ値を除いた9個のデータの平均値をそれぞれ求め、外れ値が平均値に与える影響を述べよ。
ヒントを見る
(1)は外れ値判定の手順どおり。(2)がメッセージ — 外れ値込みと抜きで平均を実際に2回出して比べる。平均は外れ値でどれだけ動く? 中央値なら? 数値で実感するのが狙い。
解答・解説
方針
(1)は外れ値判定の手順どおりだ。 個のデータなので下組・上組 個ずつ、それぞれの中央値が 、、境界は四分位範囲の 倍外側だ。
(2)がこの問題の伝えたいことだ。外れ値込みと外れ値抜きで平均を実際に2回計算して比べる。『平均値は外れ値に敏感、中央値や四分位数は鈍感』という教科書の一文を、数値の実感として持つための問題だ。
解答
⓪ 発想 — どう考え始めるか。 (1)は判定の手順どおりに進める。10個のデータなら下組・上組5個ずつ、それぞれの中央値が 、。境界は四分位範囲の 倍外側だ。
(2)がこの問題の伝えたいことだ。外れ値込みと抜きで、平均を実際に2回計算して比べる。
「平均値は外れ値に敏感、中央値や四分位数は鈍感」。教科書の一文を、数値の実感として持つための問題である。
(1) データは 個なので、下組は前半 個、上組は後半 個にきっちり分かれる。
- 下組 の中央値:
- 上組 の中央値:
四分位範囲は なので、外れ値の境界は
未満の値はなく、 より大きい値は だけだ。よって外れ値は だ。
(2) 全体( 個)の平均値は
外れ値 を除いた 個の平均値は、総和から を引いて個数を に直せばいい(全部足し直す必要はない)。
まとめ:比べてみると、外れ値 が1個含まれるだけで平均値は から へと も動く。残り9個のデータは何も変わっていないのに、だ。一方、中央値( と の平均 )は、 の部分が でも でも変わらない。順位で決まる量だからだ。平均値は外れ値に敏感、中央値は頑健(影響を受けにくい)。外れ値がありうるデータでは、平均値だけを見ず中央値もあわせて確認するのが分析の基本姿勢だ。
発展 — 一歩先へ。 四分位範囲という基準は、絶対の真理ではなく広く使われる目安だ(箱ひげ図のひげの長さの慣習に由来する)。基準を変えれば外れ値の判定も変わる。「基準込みで判定が決まる」という相対性を知っておきたい。
外れ値が見つかったときの正しい態度は「なぜこの値が出たのか」を調べることだ。入力ミスなら直す、実態なら残して中央値で語る。数値処理の先に、判断の問題がある。
(1) 、、外れ値は (2) 全体の平均 、除いた平均 。外れ値は平均値を大きく引き上げる
別解
「敏感・鈍感」の対比は、思考実験を1つ足すとさらにはっきり見える。
外れ値の を、もっと極端な に書き換えてみる。
、、中央値 は、1つも動かない。これらは「何番目の値か」だけで決まる量で、端の値がいくら暴れても順位が変わらない限り無反応だからだ。
一方、平均は から へ跳ね上がる。たった1つの値が、全体の代表値を実態からかけ離れた場所へ引きずっていく。
年収の統計で「平均値」と「中央値」が大きくずれる話は、まさにこの現象だ。データに極端な値が混ざり得るときは、どちらの代表値を見るべきかを考える。それがこの問題の実用的な教訓である。
ポイント
- 外れ値の判定は と の境界で機械的に行う
- 平均値は外れ値に敏感、中央値・四分位数は影響を受けにくい(頑健)
- 総和から1個引いて個数を1減らす、という平均の再計算に慣れる
よくある間違い
- (2)で除いた後の平均を、個数 のまま割ってしまう(除いた後は 個)
- 外れ値を「必ず取り除くべき誤り」と決めつける(影響を確認するのが目的で、実際の値のこともある)
- 境界の計算で四分位範囲()でなく 自体を 倍してしまう