数学I / データの分析

相関係数を最大にする組み方(並べ替え不等式)

最難関編相関係数共分散並べ替え

問題

変量 $x$ の値の集まり ${1, 2, 3, 4, 5}$ と、変量 $y$ の値の集まり ${1, 2, 3, 4, 10}$ を1対1に対応させて、5個のデータ $(x_{i}, y_{i})$ を作る。対応のつけ方は $5! = 120$ 通りある。

(1) 対応をどう変えても $\overset{x}{ˉ}, \overset{y}{ˉ}, s_{x}, s_{y}$ は変わらない。このことを用いて、相関係数 $r$ を最大にすることが $i = 1 \sum 5 x_{i} y_{i}$ を最大にすることと同じである理由を説明せよ。

(2) $\sum x_{i} y_{i}$ を最大にする対応は、 $x$ と $y$ を同じ順位どうしで組んだものであることを示せ。

(3) $r$ の最大値と最小値を求めよ。

ヒントを見る

対応を変えたとき、平均・標準偏差・共分散のうち、動くのはどれか。

(2) $x_{i} < x_{j}$ なのに $y_{i} > y_{j}$ となるペアがあったら、 $y$ を入れ替えてみよ。和はどう変わるか。

解答・解説

方針

変えられるのは「組み方」だけ。何が動いて何が動かないかを見極める。平均も標準偏差も値の集まりだけで決まるので不変で、動くのは $\sum x_{i} y_{i}$ だけ。あとは「大小が食い違うペアを入れ替えると和が増える」という交換論法で、最大が同順であることを示す。

解答

⓪ 発想 — どう考え始めるか。 値の集まりは決まっていて、変えられるのは「組み方」だけだ。まず、何が変わり何が変わらないかを見極める。

平均も標準偏差も、 $x$ の値全体・ $y$ の値全体だけで決まる。組み方には無関係だ。動くのは共分散、すなわち $\sum x_{i} y_{i}$ だけである。

だから問題は「積の和を最大にする組み方は?」に化ける。

あとは交換だ。大小が食い違うペア(小さい $x$ に大きい $y$ )があれば、そこを入れ替えると和が増える。増えるなら、それは最大ではない。したがって最大の対応には食い違いが1つもない — つまり同じ順位どうしで組む、ということになる。

公式相関係数

r = \frac{s _{x y}}{s _{x} s _{y}}

、共分散

s_{x y} = \frac{1}{n} \sum x_{i} y_{i} - \overset{x}{ˉ} \overset{y}{ˉ}

① (1) 動くのは1か所だけ。 $\overset{x}{ˉ}, \overset{y}{ˉ}, s_{x}, s_{y}$ は、 $x$ の値の集まりと $y$ の値の集まりだけで決まるので、対応を変えても不変である。したがって

$r = \frac{s _{x y}}{s _{x} s _{y}} = \frac{\frac{1}{5} \sum x _{i} y _{i} - x ˉ y ˉ}{s _{x} s _{y}}$

の右辺で、対応によって動くのは $\sum x_{i} y_{i}$ だけ。しかも $r$ はその1次式で、係数 $\frac{1}{5 s _{x} s _{y}}$ は正である。よって $r$ を最大にすることと $\sum x_{i} y_{i}$ を最大にすることは同じである。

② (2) 交換すると和が増える。 ある対応で、 $x_{i} < x_{j}$ なのに $y_{i} > y_{j}$ となるペア(逆順のペア)があったとする。この2人の $y$ だけを入れ替えると、和の変化は

$(x_{i} y_{j} + x_{j} y_{i}) - (x_{i} y_{i} + x_{j} y_{j}) = x_{i} (y_{j} - y_{i}) + x_{j} (y_{i} - y_{j}) = (x_{j} - x_{i}) (y_{i} - y_{j})$

$x_{j} - x_{i} > 0$ 、 $y_{i} - y_{j} > 0$ だから、この値は正である。つまり和は必ず増える。

対応は有限個( $120$ 通り)なので、 $\sum x_{i} y_{i}$ を最大にする対応は存在する。その対応に逆順のペアがあれば、いま見たように入れ替えて和を増やせてしまい、最大に矛盾する。よって最大の対応には逆順のペアが1つもない。すなわち $x$ の大小と $y$ の大小が完全に一致する — 同じ順位どうしの組である。

③ (3) 値を計算する。 同順の対応は $(1, 1), (2, 2), (3, 3), (4, 4), (5, 10)$ である。

$\overset{x}{ˉ} = 3$ 、 $\overset{y}{ˉ} = 4$ 。偏差は $x$ が $- 2, - 1, 0, 1, 2$ 、 $y$ が $- 3, - 2, - 1, 0, 6$ だから

$s_{x}^{2} = \frac{4 + 1 + 0 + 1 + 4}{5} = 2, s_{y}^{2} = \frac{9 + 4 + 1 + 0 + 36}{5} = 10$

$s_{x y} = \frac{( - 2 ) ( - 3 ) + ( - 1 ) ( - 2 ) + 0 \cdot ( - 1 ) + 1 \cdot 0 + 2 \cdot 6}{5} = \frac{6 + 2 + 0 + 0 + 12}{5} = 4$

よって

$r = \frac{4}{2 \cdot 10} = \frac{4}{20} = \frac{4}{2 5} = \frac{2}{5} = \frac{2 5}{5}$

同じ議論で、最小は逆順 $(1, 10), (2, 4), (3, 3), (4, 2), (5, 1)$ のときで、共分散は $- 4$ 、 $r = - \frac{2 5}{5}$ である。

同じ値の集まりでも、組み方で散布図はまったく違う。同順(青)は右上がりで相関は最大 0.89、逆順(赤)は右下がりで最小 -0.89。真ん中どうしの組 (3,3) は両方に共通(黒)

まとめ: 「何が動いて何が動かないか」を見極めれば、 $120$ 通りを調べずに済む。動く量が1つだけなら、その最大化に集中すればよい。交換論法は、順序に関する最大最小の万能の武器である。

発展 — 一歩先へ。 (2)で示した「同順で積の和が最大、逆順で最小」は並べ替え不等式と呼ばれ、数学のあちこちに顔を出す。相加相乗平均の証明や、チェビシェフの和の不等式もこの仲間だ。

直感的には「大きいものどうし、小さいものどうしを組めば総和が大きい」という当たり前の話に見える。だが証明は、交換1回ぶんの差 $(x_{j} - x_{i}) (y_{i} - y_{j})$ の符号を見るだけで済む。当たり前に見えることを、1行の式で確実に押さえる — これが数学の作法である。仕事の割り当てや投資の組合せなど、応用の場面も広い。

答

(1) $r = \frac{s _{x y}}{s _{x} s _{y}}$ で、 $s_{x y} = \frac{1}{5} \sum x_{i} y_{i} - \overset{x}{ˉ} \overset{y}{ˉ}$ 。分母と $\overset{x}{ˉ} \overset{y}{ˉ}$ は不変だから、 $r$ は $\sum x_{i} y_{i}$ の増加関数 (2) 逆順のペアを入れ替えると和が増える (3) 最大 $\frac{2 5}{5}$ 、最小 $- \frac{2 5}{5}$

別解

残差から相関係数を求める(得意な人向け)。 (3)の値を、共分散を経由せずに出すこともできる。

同順の対応 $(1, 1), (2, 2), (3, 3), (4, 4), (5, 10)$ に、最小二乗の直線(回帰直線)を当てはめてみる。傾きは $\frac{s _{x y}}{s _{x}^{2}} = \frac{4}{2} = 2$ 、切片は $\overset{y}{ˉ} - 2 \overset{x}{ˉ} = 4 - 6 = - 2$ だから、直線は

$y = 2 x - 2$

この直線からの縦のずれ(残差)は、 $x = 1$ から順に

$1 - 0 = 1, 2 - 2 = 0, 3 - 4 = - 1, 4 - 6 = - 2, 10 - 8 = 2$

で、2乗和は $1 + 0 + 1 + 4 + 4 = 10$ である。

ここで「残差の2乗和の最小値は $n s_{y}^{2} (1 - r^{2})$ に等しい」という関係を使う。 $n s_{y}^{2} = 5 \times 10 = 50$ だから

$10 = 50 (1 - r^{2}) ⟹ r^{2} = \frac{4}{5} ⟹ r = \frac{2}{5} = \frac{2 5}{5}$

(同順なので $r > 0$ 。)本解と一致する。

この計算は $r$ の意味も教えてくれる。 $r^{2} = \frac{4}{5}$ とは「 $y$ の散らばりの $80%$ が $x$ で説明でき、残り $20%$ が直線からのずれ」という意味だ。 $r$ が $1$ に届かないのは、点 $(5, 10)$ が直線から大きく上に外れているからである。相関係数を「直線でどれだけ説明できるか」の物差しとして読む — この見方は統計の実務でそのまま使われる。

ポイント

対応を変えても $\overset{x}{ˉ}, \overset{y}{ˉ}, s_{x}, s_{y}$ は不変。動くのは $\sum x_{i} y_{i}$ だけ。
逆順ペアの交換で和が $(x_{j} - x_{i}) (y_{i} - y_{j}) > 0$ だけ増える。
最大は同順で $r = \frac{2 5}{5}$ 、最小は逆順で $- \frac{2 5}{5}$ 。

よくある間違い

対応を変えると平均や標準偏差も変わると思い込む。変わるのは「どの $x$ とどの $y$ を組むか」だけで、値の集まり自体は変わらない。したがって $\overset{x}{ˉ}, \overset{y}{ˉ}, s_{x}, s_{y}$ は不変である。
(2)を「 $120$ 通り全部調べればよい」で済ませる。答えは出るが、一般の $n$ では通用しない。交換の一手で「最大なら逆順ペアはない」と言い切るのが本筋である。
(3)で共分散を $\frac{1}{5} \sum x_{i} y_{i}$ とし、 $- \overset{x}{ˉ} \overset{y}{ˉ}$ を引き忘れる。 $\sum x_{i} y_{i}$ の最大化と $r$ の最大化は同値だが、 $r$ の値そのものは共分散から計算する。